Tim želi brže raditi i pokrene AI alat, obično za testiranje nečeg konkretnog: sažetak, prvi koncept, klasifikaciju. Nema postupka odobravanja jer je to "samo proba". Proba funkcionira, ili funkcionira dovoljno dobro, i uklapa se u svakodnevni proces bez da je ikad donesena odluka da se zadrži. Nikad nije postojao trenutak u kojem je nekoje svjesno odabrao: ovo uključujemo u našu evidenciju AI sustava, za ovo postoji vlasnik, ovo spada u tu razinu rizika. Postojao je samo trenutak početka, i taj se trenutak upisuje u način rada koji nitko više nije dotaknuo.
Zaustavljanje probne postave traži odluku. Nastavak ne traži ništa. Sve dok nitko ne prijavi incident ili neka vanjska strana ne zatraži dokaz o nadzoru, nema povoda da se vrati na nešto što je već odavno postalo obična praksa. Ljudi koji koriste alat nemaju interes to iznijeti na vidjelo: funkcionira, štedi vrijeme, a prijavljivanje se čini kao preuzimanje rizika da im se to oduzme. Tako privremeno rješenje ostaje strukturno, ne zato što nitko ne zna za njega, nego zato što nitko ne postavlja pitanje koje bi vodilo do zatvaranja.
Logično je pomisliti da bi pregled odobrenog softvera to učinio vidljivim. Taj pregled pokazuje što je nabavljeno, ne što se koristi. Probna postava često prolazi izvan tog kanala: besplatan račun, dodatak za preglednik, zasebna pretplata na timskoj kartici. Isti obrazac vrijedi za ekstenziju preglednika s pristupom vašoj e-pošti, za odjel s vlastitom pretplatom izvan centralne nabave, i za poslovne podatke koji se lijepe u besplatan chat prozor bez ugovora s odredbama o obradi podataka u pozadini. Nijedna od tih situacija ne stoji na IT popisu, jer nijedna od njih nikad nije prijavljena kao projekt.
Jedini način da se zna što se stvarno odvija jest pitati. Ne kao kontrola unatrag, nego kao otvaranje: što koristite, za što, i od kada. Onaj tko to pitanje postavlja s prijetnjom sankcija u pozadini, ne dobiva odgovor ili dobiva nepotpun odgovor. Zaposlenici koji koriste alat koji nitko nije odobrio imaju što izgubiti od iskrenosti i ništa za dobiti. To je upravo napetost o kojoj je riječ kod zaposlenika koji koriste alat koji nitko nije odobrio: bez poziva na koji je sigurno odgovoriti, probna postava ostaje u podzemlju, i ne nestaje, samo postaje tiša.
Evidencija bez posljedica za onog koji je prijavio prvi je korak, ne zaključak. Nakon što je nešto vidljivo, slijedi klasifikacija: što je to, kakvu ulogu igra u procesu, i koja razina rizika mu odgovara. Alat za sažimanje interne dokumentacije traži drugi režim od alata koji sudjeluje u odlučivanju o prihvaćanju klijenta ili ocjenjivanju osoblja. Ta klasifikacija treba se uklopiti u postojeću strukturu rizika, ne u novi okvir pored nje. Drugi, neformalni proces koji se zanemaruje pored postojećeg procesa upravo je razlog zašto je drugi proces pored postojećeg koji se zanemaruje prepoznatljiv obrazac: ljudi slijede put manjeg otpora, a taj put postaje vidljiv samo kad ga netko upita.
Nakon toga slijedi pitanje ko još to nadzire. Probna postava koja je puštena u svakodnevni rad obično više nema vlasnika koji procjenjuje rezultate prije njihove upotrebe. Tu postaje relevantno što ljudski nadzor znači u praksi: ne kao apstraktan princip, nego kao konkretno pitanje ko čita rezultat prije nego što utječe na klijenta, dosje ili odluku.
Rukovoditelj kojeg o tome pitaju — nadzorno tijelo, revizor, nadzorni odbor — ima dvije mogućnosti: reći da je pregled potpun, ili reći da postoji proces koji ga čini i održava potpunim. Druga mogućnost je iskrenija i, na dulji rok, snažnija, jer organizacija koja aktivno provodi evidentiranje ima nešto dokazivo, i onda kad evidencija još nije dovršena. Poanta nije da nova neovlaštena probna postava nikad više neće nastati. Poanta je da postoji mehanizam koji ih pronalazi prije nego što to učini incident.
Kad jednom postane vidljivo koji je AI nastao neplanirano, često se javlja drugo pitanje: ako je ovaj tim to već radio, bez da je to itko organizirao, što bi se dogodilo da to zapravo organiziramo? To je drugo pitanje od upravljanja, i ono spada u radni sken FTE TO AI, koji po zadatku izračunava koji dio posla se opravdano može prepustiti AI-u. Gdje ova stranica opisuje kako steći nadzor nad onim što već postoji, taj sken opisuje što se, s istim mirnim pogledom na zadatke i rizike, još može izgraditi.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.