Kada prilagodba modela postaje vaša vlastita odgovornost?

Model koji nabavljate i koristite nepromijenjen predstavlja drugu situaciju od modela koji finetunirate, ponovno trenirate na vlastitim podacima, ili spajate s drugim sustavima. Pitanje koje se uz to postavlja nije je li to dopušteno, nego što to mijenja u vašoj ulozi. Ova stranica opisuje o čemu ta podjela ovisi. Aktualni sadržaj propisa nalazi se drugdje; ovdje je riječ o mehanizmu koji određuje kada se nešto mijenja i što s tim interno radite.

O čemu ovisi podjela

Hoće li prilagodba modela izmijeniti vašu ulogu, ovisi o nizu čimbenika koje morate utvrditi za svaku situaciju posebno, a ne o fiksnoj granici koja je jednaka za svaki model.

Priroda prilagodbe. Model koji samo pozivate putem sučelja nešto je drugo od modela čije težine prilagođavate, koji finetunirate na vlastitim podacima, ili koji spajate s drugim modelima ili izvorima podataka.
Što prilagodba čini s rizikom. Prilagodba koja mijenja svrhu modela, širi ciljnu skupinu, ili prebacuje ishod u drugo područje, teži drugačije od prilagodbe koja samo dotjeruje jezik ili stil.
Ko provodi prilagodbu i zašto. Interno finetuniranje za određeni proces druga je situacija od prilagodbe koja sustav osposobljava za ponudu trećim stranama.
Je li temeljni model već imao ulogu i razinu rizika. Prilagodba sustava koji je već bio klasificiran kao visokorizičan teži drugačije od prilagodbe sustava bez te kvalifikacije.

Ovi čimbenici djeluju zajedno. Nijedna od ovih točaka nije sama po sebi presudna; kombinacija određuje mijenja li prilagodba vašu poziciju.

Što se mijenja kada se situacija promijeni

Ako je prilagodba dovoljno značajna, obično se ne mijenja samo klasifikacija modela nego i ono što se od organizacije očekuje: druga dokumentacija, druga interna odgovornost, možda druga strana koja je odgovorna za cjelinu. Taj mehanizam, i razlika između strane koja model samo koristi i strane koja model sudjeluje u oblikovanju, detaljno je obrađen na stranici koja opisuje razliku između davatelja i korisnika. Kada je prilagodba upravo dovoljno značajna da izazove taj prelazak uloge, pitanje je na koje se mora odgovoriti za svaki sustav posebno; opći mehanizam u pozadini toga nalazi se na stranici o trenutku kada se vaša uloga mijenja.

Posljedice tog prelaska ovise, zauzvrat, o razini rizika koju prilagođeni model dobiva. Prilagođeni model koji spada u visokorizičnu kategoriju povlači druge obveze od prilagođenog modela koji ostaje izvan te kategorije. Što visoka razina rizika u praksi znači za interne procese i nadzor, opisano je na stranici o posljedicama visoke razine rizika za vašu organizaciju. Obrnuto, moguće je i da prilagodba upravo održi sustav izvan najstrože kategorije, ili da područje primjene jednostavno ne spada pod propis; koje primjene padaju izvan opsega i zašto, opisano je na stranici o primjenama koje padaju izvan opsega.

Zašto ovo rijetko je vidljivo na jednom mjestu

Prilagodbe modela često se događaju blizu samog posla: tim koji finetunira eksterni model na vlastitim dokumentima, razvijatelj koji povezuje dva sustava, odjel koji hrani chatbota internim bazama znanja. To su upravo prilagodbe koje ne prolaze kroz centralizirani proces nabave i time se automatski ne nalaze na IT-popisu. Tko želi znati događa li se ovo, i gdje, unutar organizacije, mora to pitati — a to funkcionira samo ako pitanje nije povezano s obračunom. Tim koji je prilagodio model bez traženja dozvole za to neće to prijaviti ako odgovor donosi sankciju.

Što to znači za politiku i nadzor

Jer podjela prilagodbi nije fiksna nego se utvrđuje za svaku situaciju posebno, nije dovoljno jednom odrediti kakvu ulogu model ima. Prilagodbe koje se dogode nakon prve procjene moraju ponovno prolaziti kroz ista pitanja. Politika koja to podupire mora običnim jezikom opisati kada se prilagodba mora prijaviti i kome; kako takva politika ostaje razumljiva umjesto da bude tekst kojeg nitko ne konzultira, opisano je na stranici o politici za AI koja se stvarno čita. Osim toga, važno je da se odluke o prilagodbama — tko je dao suglasnost, na temelju kojeg razmatranja, s kojom razinom rizika kao ishodom — zabilježe na mjestu na kojem se mogu pronaći. Kako takvo bilježenje izgleda u praksi, opisano je na stranici o popisu odluka nadzora.

Sljedeće pitanje