Ljudski nadzor se često utvrđuje kao uloga: netko je odgovoran, ime u registru, kvačica u kućici. To je početna točka, ne sam mehanizam. Nadzor nastaje tek kad postoji trenutak u kojem čovjek može vidjeti ishod primjene AI, može ga razumjeti i može ga korigirati prije nego što taj ishod negdje završi. Bez tog trenutka, ime uz klasifikaciju je formalnost.
Radi li nadzor u praksi ovisi o nizu stvari koje se ne slažu same od sebe. Mora postojati netko koji ima ovlast zaustaviti ishod, ne samo zadatak da ga pogleda. Mora postojati vrijeme za pregled, što znači da proces nije uređen tako da je ishod AI već obrađen prije nego što se provede kontrola. I mora postojati dovoljno razumijevanja onoga što primjena radi da bi se prepoznalo odstupanje. Kontrolor koji ne može procijeniti ishod ne provodi nadzor, ni onda kad je uloga formalno dodijeljena.
Ovo se povezuje s tim što AI-pismenost znači za vaše zaposlenike: nadzor bez razumijevanja temeljne primjene je nadzor na papiru.
Struktura upravljanja može utvrditi tko je za što odgovoran, koju razinu rizika primjena ima i koje korake to podrazumijeva. Što struktura ne čini, jest da zagarantira da ta osoba ishod stvarno i procjenjuje u trenutku kad je to bitno. To je organizacijska činjenica, ne tehnička. Klasifikacija može biti točna, a nadzor ipak može biti prazan, jer osoba koja je na papiru odgovorna nema vrijeme, pristup ili znanje da ishod provjeri.
Inventura i klasifikacija otkrivaju gdje je taj rizik najveći: kod primjena s višom razinom rizika, ili kod primjena koje su ušle mimo redovnog IT procesa. Ta posljednja skupina je često najteža, jer tko želi organizirati nadzor nad nečim što nije u administraciji, mora to prvo pronaći. To se dotiče pitanja što učiniti sa zaposlenicima koji koriste alat koji nitko nije odobrio: nadzor nad shadow AI počinje s prihvaćanjem da ta primjena postoji, ne sa sankcijom na njezino korištenje.
Primjena koja je danas pod nadzorom, sutra može biti promijenjena. Model se ažurira, ulazni podaci se pomiču, ili se korištenje unutar organizacije razvija od jednostavnog zadatka do nešto s većom težinom. Nadzor uređen prema stanju od godinu dana ranije više ne odgovara onome što se sada događa. To je jedan od razloga zašto klasifikacija nije jednokratna vježba; koliko često se to mora ponoviti ovisi o razini rizika i stupnju u kojem se primjena mijenja, kako je razrađeno u tome koliko često treba ponovno klasificirati.
Ovo također znači da registar ima vrijednost samo ako se održava. Inventura koja je sastavljena prilikom prvog skeniranja, a nakon toga se više ne ažurira, daje sve manje precizan prikaz toga gdje je nadzor potreban. Pitanje kako organizacija taj registar održava ažurnim odvojeno je od pitanja kako je registar izgrađen, i zaslužuje vlastitu pažnju: vidi kako održavati AI-registar ažurnim.
Uprava od koje se traži da dokaže da postoji nadzor nad korištenjem AI ne može se zadovoljiti popisom uloga. Dokazivost zahtijeva trag: tko je pogledao koji ishod, u kojem trenutku, s kojom ovlašću da to korigira. Taj trag je relevantan i u trenutku kad nešto krene po zlu. Pitanje tko je odgovoran kad primjena AI pogriješi ne odgovara se samom klasifikacijom, već dokazivim nadzorom koji je nakon toga slijedio. Te se dvije stvari lako pobrkaju, dok je razdvajanje relevantno; vidi tko je odgovoran kad primjena AI pogriješi.
Nadzor se također dotiče onoga što se unosi u primjenu. Zaposlenik koji zalijepi poslovne podatke u besplatni chat prozor stavlja te podatke izvan svakog nadzora koji je organizacija uredila, bez obzira na to koliko je dobro organiziran nadzor nad odobrenim primjenama. To je posebno područje pažnje unutar šireg pitanja, razrađeno pod što učiniti s poslovnim podacima u besplatnom chat prozoru.
Ova stranica opisuje kako nadzor funkcionira kao mehanizam: tko gleda, kada, s kojom ovlašću, i kako se to čini dokazivim. Sadržajne norme koje određuju kad je nadzor obvezan, koliko strog taj nadzor mora biti po kategoriji rizika, i u kojim rokovima to mora biti uređeno, nisu ovdje. Taj sadržaj propisa mijenja se i drugdje se održava ažurnim.
Organizirati nadzor nad zadatkom ima smisla samo ako je jasno što taj zadatak točno obuhvaća i koji njegov dio obavlja primjena AI. To je drugo pitanje od toga koju ulogu ili koju razinu rizika primjena ima; radi se o samom zadatku, razloženom na korake koje primjena AI može preuzeti i korake koji za to ne dolaze u obzir. Radni skener (werkscan) tvrtke FTE TO AI to izračunava po zadatku, tako da postane vidljivo koji se dio posla može preuzeti i koji dio mora ostati unutar dosega ljudskog nadzora.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.