Marketinški tim treba asistenta za pisanje. Financijski analitičar želi alat koji sažima proračunske tablice. Nitko od njih ne čeka proces nabave koji traje mjesecima. Postoji kreditna kartica, e-mail adresa, i za deset minuta postoji pretplata koju odjel sam plaća, sam upravlja i sam koristi. IT odjel o tome ništa ne zna. Nema razloga to prijaviti, jer nije učinjeno ništa loše — samo je riješen problem.
Većina sjenovite AI ne počinje pokušajem izbjegavanja pravila. Počinje zadatkom koji mora ići brže, rokom koji ne čeka na proces odobravanja, i alatom koji je dostupan bez posredovanja bilo koga drugog. Odjel koji se pretplati na to ne vidi to kao IT odluku. Osjeća se kao uredski potrošni materijal, ništa drugačije od softverske licence koju su svi već koristili prije nego što je postojala centralna politika nabave. Da jezični model obrađuje podatke tvrtke, čita podatke o klijentima ili generira nacrt teksta koji ide van, za korisnika nije pitanje upravljanja. To je jednostavno posao.
Ista dinamika prisutna je i kod dobavljača koji je ugradio AI u svoj proizvod bez da je o tome vođen zaseban razgovor: funkcionalnost se pojavljuje u ažuriranju, nitko ništa ne potpisuje, i organizacija to koristi prije nego što je bilo tko utvrdio ko je za to odgovoran.
Objava da neovlašteni alati nisu dopušteni malo toga mijenja. Odjel koji ima pretplatu doživljava to kao rješenje koje funkcionira, a ne kao rizik koji treba prijaviti. Zabrana bez alternative donosi dvije stvari: pretplata ide u podzemlje, ili tim prestaje s tim i posao opet postaje sporiji. Ništa od toga nije ono što organizacija želi.
Uz to, takva pretplata rijetko je jednokratna odluka. Postaje dio radnog procesa, povezana s drugim alatima, korištena u procesima koji su od nje već postali ovisni. Ono što počinje kao isprobavanje postaje stalni dio načina na koji tim radi — upravo obrazac koji je vidljiv i kod probne postavke koja nikad nije isključena: nitko nije odlučio da to postane trajno, ali nitko nije ni odlučio to zaustaviti.
Refleks da se sjenovita AI otkrije i da se korisnik zbog toga pozove na odgovornost djeluje kontraproduktivno. Onaj koji znade da prijava vodi do ukora, ne prijavljuje. Pretplata nastavlja postojati, samo manje vidljivo. Odjel postaje oprezniji u onome što prijavljuje, a ne pažljiviji u onome što koristi.
Ono što djeluje je postavljanje pitanja bez sankcije koja uz to ide. Tim koji koristi alat da ubrza zadatak za to obično ima razlog koji organizacija želi znati: proces koji je previše spor, zadatak koji postaje preopterećen, potreba koju postojeća ponuda ne pokriva. Pogledajte kako je to opisano kod zaposlenika koji koriste alat koji nitko nije odobrio — polazna točka nije prekršaj, nego potreba koja stoji iza njega.
Prvi korak nije provedba, nego inventarizacija: koji alati postoje, ko ih koristi, za koji zadatak, i s kojim podacima. To se ne događa preko IT popisa — taj registrira ono što je odobreno, ne ono što se koristi. Događa se postavljanjem pitanja, na način koji ne sadrži prijetnju.
Čim postoji uvid u ono što se koristi, može slijediti klasifikacija: koju ulogu alat igra, koja razina rizika mu odgovara, i koji oblik nadzora je prikladan. Nije svaka pretplata koju je odjel sam sklopio problem. Alat koji preoblikuje javni tekst spada u drugu kategoriju od alata koji obrađuje podatke o klijentima bez da bilo ko zna kamo ti podaci idu. Razlika između tih kategorija upravo je ono oko čega se vrti ljudski nadzor u praksi: ne svaka upotreba traži isti stupanj kontrole, ali svaka upotreba traži da se zna da postoji.
Zatim slijedi struktura upravljanja koja se nadovezuje na ono što već postoji — ne novi proces pored postojećeg okvira za rizike, nego njegovo proširenje. Organizacija koja AI rizik tretira odvojeno od ostatka svog upravljanja rizicima riskira da se taj drugi sustav ignorira, kao što je opisano kod drugog procesa pored postojećeg koji se ignorira. Pristup koji ostaje jest onaj koji se nadovezuje na ono što organizacija već čini kako bi upravljala rizikom.
Pretplata koju je odjel sam sklopio obično je signal da nešto mora ići brže nego što trenutni proces dopušta. To pitanje — koji se dio posla može ubrzati, i gdje se to može učiniti strukturirano umjesto neopaženo — upravo je ono na što odgovara radni sken tvrtke FTE TO AI. Radni sken po zadatku izračunava koji se dio posla može prepustiti AI-u, tako da potreba koja je dovela do sjenovite pretplate dobije mjesto unutar procesa koji organizacija zapravo poznaje i zapravo upravlja.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.