Poslovne usluge ne prodaju proizvod nego prosudbu: savjet, analizu, drugo mišljenje. Zbog toga je odnos prema AI-u drugačiji nego u sektorima gdje AI prije svega ubrzava procese. Ovdje AI izravno dodiruje samu srž struke — sam misaoni rad, i povjerljivost onoga što je klijent podijelio da bi taj misaoni rad bio moguć. Odvjetnik koji jezičnom modelu daje dokumente iz dosjea, konzultant koji koncept analize provjerava putem chatbota, računovođa koji brojke daje na sažimanje vanjskom sustavu: u svakom se od tih slučajeva informacija seli izvan zidova ureda i odnosa povjerenja s klijentom, gdje bi u stvari trebala ostati.
Odnos između onoga što su organizacije službeno nabavile i onoga što zaposlenici stvarno koriste, obično nije u ravnoteži. Dok se u sektorima s mnogo operativnih procesa AI često uvodi putem IT-odjela, u savjetodavnim i pravnim uredima pritisak je prije svega individualan: netko s rokom i AI-alatom koji radi brže od kolege za susjednim stolom. To ovdje shadow AI ne čini iznimkom, nego vjerojatnom normom — baš u sektoru gdje se vrijeme naplaćuje a brzina nagrađuje.
Popis softverskih licenci pokazuje što je nabavljeno, ne što se koristi. U poslovnim uslugama, osim toga, veliki dio osoblja radi na vlastitim uređajima, s vlastitim ekstenzijama preglednika i vlastitim pretplatama na AI-usluge koje ništa ne koštaju da bi se isprobale. Partner ili viši savjetnik koji koristi jezični model za provjeru koncept-memoranduma ne pojavljuje se u nikakvom IT-nadzornom sustavu. Pa ipak, baš je to korištenje ono s najvišim rizikom: dotiče povjerljivost klijenata, profesionalnu tajnu, pitanje tko je za što odgovoran kada je savjet djelomično oblikovan algoritmom.
Jedini način da se sazna što se stvarno događa jest pitati — a to pitanje ima smisla samo ako za onoga koji odgovara ništa nije na kocki. Zaposlenik koji sumnja da bi priznanje korištenja AI-a izazvalo razgovor o nedovoljnoj uspješnosti, odgovara nijekanjem ili ne odgovara nikako. Inventarizacija koja polazi od povjerenja umjesto od kontrole, dobiva drugačiju sliku: ne potpunu, ali iskreniju od popisa koji samo zbraja ono što je odobreno.
Korištenje AI-a u ovom sektoru ne pripada jednoj kategoriji. Alat koji provjerava činjenice u pravnom dokumentu nosi drugačiji rizik od alata koji sažima interni procesni dokument. Sustav koji sudjeluje u pisanju poreznog savjeta koji ide klijentu zahtijeva drugačiju vrstu nadzora od alata koji uređuje zapisnike. Governance koji funkcionira počinje razlikovanjem tih uloga i razina rizika, te uz to povezuje odgovarajuću razinu nadzora — ne prema tome kako se sustav zove, nego prema tome što sustav radi i kome je rezultat u konačnici namijenjen.
Uredi u ovom sektoru često već imaju strukture za upravljanje rizicima: pregled dosjea, princip četiri oka, provjeru usklađenosti, kontrolu kvalitete. Pristup governanceu za AI koji je od toga odvojen postaje dodatan sloj koji nitko neće prihvatiti. Smislenije je pristup koji se nadovezuje na postojeću strukturu upravljanja rizicima: isti vlasnici, iste linije izvještavanja, isti ritam provjere, s korištenjem AI-a kao dijelom onoga što se već razmatra, umjesto zasebnog postupka.
Član uprave ili General Counsel od kojeg se traži da objasni kako je korištenje AI-a u uredu osigurano, malo koristi od dojma. Dokazivost zahtijeva zabilježenu inventarizaciju: koji alati, koja uloga, koja razina rizika, koji dogovori o tome što se s njima može i ne može raditi. To prije svega nije odgovornost prema van — to je prije svega instrument za samu upravu da zna čime upravlja, prije nego što to pitanje postavi nadzorno tijelo, klijent ili vlastiti odbor za rizike.
Način na koji nastaje shadow AI i način na koji se governance na to može nadovezati, razlikuje se po sektorima. Tko želi usporediti kako se to pitanje razrađuje tamo gdje se susreće mnogo sustava i kontakta s klijentima, to pronalazi u AI-governance u financijskim uslugama; tko želi vidjeti kako to izgleda u sektoru koji sam izrađuje i koristi AI-proizvode, to može pročitati u AI-governance u IT sektoru; a za sliku kako to funkcionira u organizacijama s mnogo operativnog osoblja i malo centralnog IT-usmjeravanja, dostupno je AI-governance u trgovini na malo.
Inventarizacija korištenja AI-a prikazuje što se koristi i tko to koristi, ali ne odgovara na pitanje koje slijedi: koji se dio samog posla stvarno može prenijeti na AI, a koji ne. To je drugačiji izračun, po zadatku umjesto po alatu. Radni sken (werkscan) FTE TO AI upravo taj izračun izrađuje: po zadatku se određuje koji dio posla dolazi u obzir da ga preuzme AI, kao sljedeći korak nakon pregleda koji donosi Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.