Tim je htio nešto isprobati. Chatbot za pitanja korisnika, skriptu koja sažima izvještaje, povezivanje s jezičnim modelom za sortiranje e-mailova. Nije bila potrebna velika odluka: netko je imao račun, API ključ ili besplatno probno razdoblje, i u jednom popodnevu nešto je već radilo. Pilot je funkcionirao, ili je funkcionirao dovoljno dobro, i nitko više nije imao razlog da ga isključi.
Ovo nije iznimka. To je uobičajen način na koji AI ulazi u organizaciju. Ne putem javne nabave ili odobrenog budžeta, nego putem probne postavke koja nadživi svoj vlastiti probni status. Testna faza nikad nije formalno zatvorena, jer nikad nije postojao formalan početak koji bi se trebao zatvoriti.
Pilot koji funkcionira, koristi se. A ono što se koristi, postaje ovisnost. Tim koji je izgradio alat za sažimanje izvještaja možda je otišao, ali sažetak još svaki tjedan stiže. Nitko nema zadatak da ga isključi, i nitko ne želi preuzeti rizik da nešto prestane raditi bez znanja što će ga zamijeniti.
Osim toga, probna postavka obično nema vlasnika u smislu koji struktura upravljanja (governance) očekuje. Nije izrađena klasifikacija rizika, nije provedena analiza podataka, nije donesena odluka o tome ko je odgovoran ako nešto pođe po zlu. Pilot postoji u međuprostoru: previše se koristi da bi se ignorirao, previše je neformalan da bi se njime upravljalo. To je upravo obrazac koji dovodi do zaposlenika koji koriste alat koji nitko nije odobrio — samo ovaj put na razini tima, a ne pojedinca.
Refleks pri otkrivanju neovlaštene probne postavke često je: ko je to dopustio, i zašto to nismo znali. To pitanje je razumljivo, ali djeluje kontraproduktivno. Onaj koji već na prvom razgovoru osjeti da dolazi pitanje krivnje, drugi put neće ništa ispričati. A sljedeća probna postavka — koja će sigurno doći — nestat će iz vidokruga jednako kao i ova.
Inventarizacija izgrađena na povjerenju donosi više nego revizija izgrađena na kontroli. Ne zato što ljudi ne bi imali ništa za skriti, nego zato što se informacija koju tražite nalazi kod korisnika, a taj korisnik govori samo ako ne bude kažnjen za ono što otkrije.
Kada probna postavka postane vidljiva, prvo pitanje nije smije li nastaviti postojati, nego što točno radi. Koji podaci ulaze u nju, ko koristi rezultat, i što se događa ako je rezultat pogrešan. To su isti pitanja koja vrijede za svaku drugu primjenu AI-a, a odgovor određuje je li nešto neformalno pomagalo ili rizik koji zaslužuje pažnju.
Zatim slijedi klasifikacija: uklapa li se primjena u kategoriju rizika koja već postoji, ili traži novu procjenu. Potom: što treba zabilježiti da bi se dokazivo pokazalo da organizacija znade što radi i zašto. To je upravo ono čime se bavi što morate zabilježiti po primjeni — ne kao dodatna birokracija, nego kao minimalna dokumentacija potrebna da bi se pilot razlikovao od rizika.
Probna postavka koja prođe ovu provjeru može nastaviti postojati, sada s vlasnikom i klasifikacijom. Probna postavka koja ne prođe provjeru mora se postupno ukinuti — ali to je kontroliran proces, a ne otpuštanje osobe koja ju je nekad pokrenula.
Probna postavka koja nikad nije isključena samo je jedan oblik širega obrasca. Sjetite se ekstenzije preglednika s pristupom vašoj e-pošti koju je netko nekad instalirao da uštedi vrijeme, ili podataka poduzeća koji završe u besplatnom chat prozoru jer je to bilo brže od službenog alata. Svi ti slučajevi imaju zajedničku osobinu: nastali su iz praktične potrebe, a ne iz odluke o politici, i nastavljaju postojati sve dok ih nitko ne upita.
Popis IT odjela s odobrenim softverom zato nije početna točka inventara — to je početna točka potrage za onim što ostaje izvan tog popisa. Onaj koji želi znati kako ta potraga izgleda, pristup pronalazi u kako izraditi inventar AI-a.
Probna postavka koja izađe na svjetlo dana obično pokreće daljnje pitanje koje ide dalje od upravljanja (governance): zašto je ovo uopće funkcioniralo tako dobro da ga nitko nije htio zaustaviti? To je pitanje o samom radu, ne samo o riziku. Skener rada tvrtke FTE TO AI izračunava po zadatku koji dio posla AI može preuzeti, i time čini vidljivim ono što je probna postavka implicitno već pokazala: da se dio posla može drugačije organizirati. Dok Responsible AI Scan prikazuje što se koristi i pod kojim rizikom, skener rada pokazuje odakle taj upotreba dolazi i što to strukturno znači za podjelu zadataka.
Responsible AI Scan, s inventarizacijom, klasifikacijom i skupom alata za upravljanje (governance) opisanim gore, u razvoju je. Onaj koji se s ovim već sada susreće i želi biti obaviješten čim alat bude dostupan, može se prijaviti na listu čekanja.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.