AI-primjena napravi pogrešku. Odluka nije točna, savjet je pogrešan, klijent je neopravdano odbijen. Pitanje koje zatim slijedi nije samo tehničko. Tko je to trebao predvidjeti, tko je upravljao sustavom, i tko može objasniti zašto je primjena korištena onako kako je korištena.
Taj odgovor ne postoji odvojeno od registra. Odgovornost pretpostavlja da netko zna da primjena postoji, čemu služi i tko je nadležan za nju. Bez te osnove pitanje o odgovornosti je retoričko: nitko to ne zna, dakle nitko to ne može objasniti.
Responsible AI Scan prikazuje što je u pogonu, tko to koristi i s kojom razinom rizika to ide. To je polazna točka, a ne izjava o krivnji. Skan klasificira primjenu prema ulozi i riziku; on ne procjenjuje je li pojedinačna odluka bila točna. Ta procjena spada na sam incident, a ne na inventar koji mu je prethodio.
Što skan ipak čini, jest osiguravanje strukture unutar koje se ta procjena kasnije može provesti. Ako se zna tko je nabavio primjenu, tko upravlja njome i za koju je svrhu odobrena, postoji linija na koju se možete pozivati. Ako te strukture nema, pitanje o odgovornosti svodi se na nagađanje unatrag.
Većina organizacija ima pregled odobrenog softvera. Taj pregled je gotovo nikad potpun. Zaposlenici koriste alate koje nitko nije prijavio, često zato što posao ide brže i nitko nije pitao. To nije po definiciji neodgovorno ponašanje; to je ono što se događa kad organizacija ne nudi drugi put.
Tko želi znati što se stvarno koristi, mora pitati. A to funkcionira samo ako pitanje nema posljedice. Čim zaposlenik posumnja da iskren odgovor vodi do korektivnog razgovora, odgovor prestaje. Što radite sa zaposlenicima koji koriste alat koji nitko nije odobrio govori upravo o tom mehanizmu: inventar je onoliko dobar koliko je dobro povjerenje s kojim se prikuplja.
Uz to ide i pitanje što se događa s poslovnim informacijama čim se unesu u eksterni prozor. Što radite s poslovnim podacima u besplatnom chat-prozoru opisuje rizik koji nema veze sa zloćudnošću: netko samo želi provjeriti tekst, i pri tome upiše nešto što nije trebao.
Skup pravila upravljanja koji slijedi nakon inventara određuje tko odobrava primjenu, tko provodi nadzor i kako se to bilježi. To se povezuje sa strukturom rizika koju organizacija već ima za druga područja: isti odbori, iste linije izvještavanja, isti putovi eskalacije. Ne dolazi novi aparat pored postojećeg; postojećem se dodaje nova kategorija.
Ovo donosi dokazivost: uprava može pokazati da je pogledano, klasificirano i uspostavljen nadzor. Ne donosi garanciju da primjena više nikada neće pogriješiti. To dvoje su različite stvari i skan se ne izjašnjava o drugoj. Ono što donosi jest osnova na temelju koje uprava može objasniti što je učinjeno, a ne osiguranje protiv onoga što se još može dogoditi.
Često se pravi pogreška uspostavljanjem odvojenog AI-procesa, izdvojenog od postojeće strukture za rizik i usklađenost. Taj proces na početku dobiva pažnju, a potom se povlači u drugi plan, jer nitko ne nastavlja održavati drugi sustav pored prvog. Zašto se drugi proces pored postojećeg zanemaruje objašnjava zašto povezivanje s postojećim strukturama nije pitanje učinkovitosti, nego uvjet da nešto opstane.
Uz to ide i to da je inventar trenutak, a ne krajnja točka. Nove primjene se dodaju, postojeće mijenjaju funkciju, i klasifikacija koja je bila točna pri isporuci nije automatski točna godinu dana kasnije. Koliko često treba iznova klasificirati i kako održavati AI-registar aktualnim opisuju što to održavanje u praksi zahtijeva, i zašto registar koji je jednom sastavljen, u razumnom vremenu prestaje odgovarati stvarnosti.
Ljudi koji radi s tim primjenama su, uz to, dio rješenja, a ne samo rizik kojim treba upravljati. Ono što zaposlenici razumiju i ne razumiju o sustavima koje koriste, određuje ima li skup pravila upravljanja u praksi ikakvo značenje. Što znači AI-pismenost za vaše zaposlenike obrađuje taj aspekt.
Tko jednom zna koje AI-primjene su u pogonu i tko je za njih nadležan, neizbježno naiđe na sljedeće pitanje: koji dio posla koji se sada radi ručno je zapravo prikladan da se prepusti AI-primjeni. To je drugo pitanje od odgovornosti, ali se oslanja na isti inventar. Werkscan tvrtke FTE TO AI izračunava po zadatku koji se dio posla može preuzeti AI-om, kao sljedeći korak nakon što je jasno što je već u pogonu i tko o tome odlučuje.
Skan opisan na ovoj stranici je u izradi. Tko je zainteresiran za ovo, može se prijaviti na listu čekanja; trenutno se ne isporučuje ništa što nije dovršeno.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.