Kennisbank

Što se mijenja kada sami prilagodite model?

Nabaviti AI-sustav i koristiti ga onako kako je isporučen, druga je situacija od prilagodbe modela vlastitim podacima ili svrsi. Ta prilagodba može promijeniti podjelu uloga u vašoj organizaciji — a time i pitanja na koja morate moći odgovoriti. Hoće li se to dogoditi, i koliko to teži, ovisi o tome što se točno prilagođava i za što se sustav koristi.

O čemu ovisi podjela

Podjela ne ovisi o tome jeste li vi napisali izvorni kod. Ovisi o tome što se stvarno događa s modelom nakon što dođe do vas. Nekoliko čimbenika koji su bitni:

• Priroda prilagodbe. Korištenje sustava onako kako je isporučen nešto je drugo od finetuninga na vlastitim podacima, povezivanja s vlastitim izvorima, ili primjene za svrhu koju izvorni dobavljač nije predvidio.
• Tko provodi izmjenu. Interni stručnjak za podatke koji dodatno trenira model, druga je situacija od dobavljača koji na zahtjev isporučuje varijantu.
• Učinak na rizik. Prilagodba koja bitno mijenja ponašanje sustava teži drugačije od prilagodbe koja se odnosi samo na sučelje ili oblik izlaznih podataka.
• Primjena u kojoj se model koristi. Ista prilagodba može u jednoj primjeni imati malo posljedica, a u drugoj primjeni promijeniti ulogu vaše organizacije. Koje primjene se pri tome računaju, a koje ne, pitanje je koje se mora zasebno odgovoriti — pogledajte koje primjene ne spadaju u opseg obveza upravljanja.

Ovi čimbenici djeluju zajedno. Ne postoji fiksni prag koji vrijedi u svim slučajevima; aktualni propisi s točnim kriterijima navedeni su drugdje, a taj tekst se može mijenjati. Što ostaje na ovoj stranici, jest mehanizam: prilagodba može promijeniti ulogu, a uloga određuje obvezu.

Od korisnika prema nečemu drugom

Uloga koju vaša organizacija zauzima kod AI-sustava nije fiksna. Tko model samo koristi onako kako je isporučen, obično ima drugačiju poziciju od onoga tko model mijenja i zatim ga sam stavlja na tržište ili interno primjenjuje u velikoj mjeri. Pitanje kada nastupa taj prijelaz, i što se u tom trenutku mijenja u onome što morate moći dokazati, obrađeno je na kada se vaša uloga mijenja i gdje se ta granica nalazi. Za organizacije koje se pitaju jesu li dobavljač ili korisnik — pitanje koje se javlja češće nego što se misli čim se interno provede prilagodba — postoji zasebno objašnjenje na razlika između dobavljača i korisnika AI-sustava.

Razlog zašto je to bitno nije formalne prirode. Promjena uloge mijenja ono što morate moći pokazati: koju dokumentaciju vodite, tko je unutar organizacije odgovoran za nadzor, i koji su koraci poduzeti prije nego što je prilagođeni sustav pušten u uporabu. Model koji ste sami prilagodili, model je za koji se od vas može zatražiti da opravdate kako je ta prilagodba nastala.

Što to znači za razinu rizika

Prilagodba također može utjecati na razinu rizika primjene. Model koji je izvorno bio namijenjen laganoj primjeni, prilagodbom se može svrstati u težu kategoriju — na primjer kada se nakon prilagodbe koristi za odluke o ljudima. Što visoka razina rizika konkretno znači za obveze vaše organizacije, navedeno je na što visoka razina rizika znači za zahtjeve prema vašoj organizaciji. I ovdje vrijedi: podjela slijedi iz uporabe, a ne iz namjere s kojom je model nekad izgrađen.

Ovo se izravno dotiče srži shadow AI-a. Prilagodba koja ne prolazi kroz IT — timovi koji sami provode finetuning modela na vlastitom skupu podataka, ili odjel koji povezuje eksterni model s internim sustavima bez da je o tome izviješteno — mijenja podjelu uloga u vašoj organizaciji bez da je uprava o tome obaviještena. IT popis tu prilagodbu ne prikazuje. Tko želi znati događa li se to, mora se raspitati kod timova koji s tim svakodnevno rade, a taj razgovor donosi rezultat samo ako se vodi bez obračunavanja.

Što se praktično mijenja

Kada prilagodba promijeni ulogu ili razinu rizika primjene, mijenja se nekoliko stvari istovremeno: dokumentacija koja se mora voditi, pitanje tko je unutar organizacije vlasnik te primjene, i trenutak od kada se nešto još može planirati u odnosu na ono što već zahtijeva pažnju. Ta razlika — između onoga što je već hitno i onoga što se može planirati — povezana je s čimbenicima koji su objašnjeni na što već zahtijeva pažnju i što se još može planirati. Detaljnija obrada samog pitanja podjele, uključujući granične slučajeve koji se u praksi najčešće javljaju, navedena je na potpuno objašnjenje onoga što se mijenja kod prilagodbe modela.

Prilagođeni model u praksi je često i model koji preuzima dio posla od ljudi koji su prije zadatak u potpunosti obavljali sami. Je li to slučaj, i koliki dio posla se to tiče, pitanje je koje je zasebno od pitanja podjele, ali koje se na njega često nastavlja: čim je jasno da je model prilagođen i za što se koristi, postaje vidljivo i koji dio zadatka on stvarno izvršava. Werkscan tvrtke FTE TO AI to izračunava po zadatku i pokazuje koji se dio posla može preuzeti od AI-a, neovisno o pitanju kako je temeljni model nastao.