Voditelj AI programa obično dobiva jedan mandat: pobrinuti se da se AI usvaja, da timovi zahvaljujući njemu rade brže, da program pokazuje rezultate. Rijetko se uz to pojavljuje drugi mandat: pobrinuti se da sve što se u međuvremenu razvija bude odgovorno. Ipak, ocjenjuje se na oba čim nešto krene po zlu. To je srž njegovog rizika: odgovoran je za program čije rubove ne poznaje.
Ono što dobiva usvajanjem — brži procesi, zadovoljni timovi, vidljiva priča o inovaciji — stoji nasuprot onome što gubi kad nešto pođe po zlu: incident s alatom koji nije bio na njegovom popisu, revizija koja postavlja pitanja na koja nema odgovor, uprava koja pita zašto program nije primijetio što se već koristi. Ta asimetrija čini njegovu poziciju osjetljivom, i onda kada program sam po sebi dobro funkcionira.
Njegovo pitanje nije "koje smo AI alate odobrili". Taj popis već ima, i on je često kraći od stvarnosti. Njegovo pitanje je: što koriste timovi koji nisu na mom popisu, i kako to mogu vidljivo utvrditi bez da to ljudi skrivaju. Voditelj programa koji želi poticati usvajanje ne može si dopustiti da korisnici skrivaju svoje alate iz strahu od korekcije. Onaj tko pita što se koristi, a zatim od toga pravi problem, sljedeći put neće dobiti odgovor. Upravljanje (governance) i usvajanje ovdje djeluju jedno protiv drugoga ako se pogrešno pristupi.
Odgovor koji ne prihvaća je jednostavna blokada: "Korištenje AI-a nije dopušteno bez odobrenja." Taj odgovor na trenutak zadovoljava revizora, ali premješta korištenje na mjesta koja nitko ne vidi. To je suprotno onome što voditelj programa želi postići: želi da korištenje AI-a bude vidljivo i praćeno, a ne da ode u ilegalu. Zabrana bez mehanizma za prijavljivanje i učenje za njega je gubitak, i onda kada na papiru zvuči usklađeno.
Ne prihvaća ni odgovor koji sve tretira jednako. Alat koji sažima tekst za internu upotrebu nije isti rizik kao alat koji automatski donosi odluke o klijentima ili zaposlenicima. Bez razlikovanja prema ulozi i razini rizika, program ne može odrediti prioritete, a voditelj programa koji ne može odrediti prioritete ne može izvršavati svoj mandat.
Ono što djeluje je inventarizacija koja počinje od onoga što postoji, a ne od onoga što je odobreno. To znači postavljanje pitanja timovima o tome što stvarno koriste, i to na način koji ne povlači sankcije. Samo tako dolazi na vidjelo sjenoviti AI (shadow AI) — sustavi koji su uvedeni bez formalnog postupka, često zato što su rasterećivali posao i nitko nije vidio razlog za čekanje na odobrenje.
Nakon toga slijedi klasifikacija: koja primjena utječe na klijente, koja utječe samo na interni proces, koja donosi odluke bez čovjeka u sredini. Ta podjela određuje gdje nadzor mora biti strog a gdje može ostati lagan. Bez te podjele program sve tretira jednako strogo ili jednako lagano, a oba su problem: prvo koči usvajanje, drugo ostavlja rizike nekontrolirane.
Struktura upravljanja (governance) koja slijedi mora se nadovezati na ono što već postoji u organizaciji — postojeće odbore za rizike, postojeće linije izvještavanja — a ne stvarati novi paralelni krug. To je i mjesto gdje se voditelj programa razlikuje od drugih uloga u organizaciji: član uprave želi znati što član uprave treba znati o AI riziku na razini krajnje odgovornosti, CIO tome pristupa iz perspektive sustava i pristupa kako je opisano u što CIO treba znati o AI riziku, a General Counsel gleda na odgovornost i obvezu dokumentiranja putem što General Counsel treba znati o AI riziku. Voditelj programa mora moći opsluživati sve tri perspektive bez da izgubi svoj vlastiti zadatak — usvajanje.
Koje konkretne obveze vrijede za koju kategoriju rizika, i unutar kojih rokova, nije tema ove stranice. Taj tekst se mijenja, pooštrava se i dobiva objašnjenja na drugim mjestima. Ovdje je riječ o mehanizmu: kako program dobiva uvid u ono što se događa, kako to prevodi u razine rizika, i kako to dokazivo prikazuje upravi i nadzoru, bez obzira na to što točan tekst propisa u nekom trenutku nalaže.
Čim je jasno što se koristi i tko je za to odgovoran, javlja se drugo pitanje: što to donosi kada se taj posao dobro postavi. To je pitanje na koje se odgovara po zadatku, ne po organizaciji. Radni skener (werkscan) FTE TO AI na toj razini izračunava koji dio posla može preuzeti AI, tako da voditelj programa ne samo da zna što se događa, nego i gdje dodavanje kapaciteta stvarno donosi razliku.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.