Kot direktor sami ne preverjate, kateri AI-model proizvaja kakšen izhod. Zastavljate si drugo vprašanje: če gre kaj narobe, ali lahko pokažem, da smo to vedeli, da smo to preverili in da smo nekaj naredili. To vprašanje je vodstveno, ne tehnično. In odgovor, ki ga ne sprejmete, je seznam odobrenih aplikacij oddelka IT. Ne ker bi bil ta seznam napačen, temveč ker je nepopoln. Opisuje, kaj je bilo zaprošeno, ne kaj se dejansko uporablja.
Tveganje za direktorja ni to, da zaposleni uporabi jezikovni AI za pisanje osnutka. Tveganje je, da o tem ne morete povedati ničesar v trenutku, ko je to pomembno: pri incidentu, vprašanju nadzornega organa, vprašanju odgovornosti. Takrat šteje samo izkazljivost. Ne ali bi to takrat lahko vedeli, temveč ali lahko pokažete, da je obstajala struktura, s katero bi to vedeli. Direktor, ki reče "tega nismo imeli pod nadzorom", je v drugačnem položaju kot direktor, ki reče "to je spadalo v kategorijo, ki smo jo zavestno obravnavali na določen način". Razlika med tema dvema stavkoma je tisto, kar prinaša ta pregled.
Namen ni prepovedati ali zavirati vsako uporabo AI. Večina tega, kar so zaposleni sami začeli uporabljati, je funkcionalna in prinaša rezultate. Korist za direktorja ni v zaviranju tega, temveč v tem, da lahko razlikuje: to je nizko tveganje in lahko poteka naprej, to zadeva osebne podatke ali odločanje o ljudeh in mora biti obravnavano drugače, to je nejasno in je treba to raziskati. Brez tega razlikovanja vse obravnavate enako — kar je običajno preveč strogo za večino in preveč popustljivo za izjemo, ki je pomembna.
Senčni AI ne nastane iz nevoljnosti. Nastane, ker je imel zaposleni težavo in je našel orodje, ki jo je rešilo, brez da bi obstajal postopek zaprosila, ki bi bil hitrejši od samega orodja. Ta orodja se ne pojavijo na seznamu nabave. Pojavijo se šele, ko nekdo o njih vpraša — in to le, če vprašanje ne vodi takoj do sankcije. Organizacija, ki želi videti senčni AI, mora najprej jasno povedati, da prijava ni tveganje. To je vodstvena odločitev, ne tehnična.
Responsible AI Scan se začne z inventuro tega, kaj se dejansko uporablja, ne glede na to, kaj je bilo kdaj odobreno. Nato se vsaka uporaba razvrsti glede na vlogo — kdo jo uporablja, za kaj — in glede na stopnjo tveganja. Ta razvrstitev vodi do niza pravil upravljanja: način obravnave vsake kategorije, ki se ujema s strukturo tveganja, ki jo vaša organizacija že ima, namesto novega okvira poleg nje. Vsebina samih pravil — katere obveznosti natančno veljajo, v katerih rokih — je opredeljena drugje; to ni tisto, na kar se ta pregled osredotoča. Ta pregled se osredotoča na mehanizem: vedeti, kaj poteka, to lahko razvrstiti in lahko pokazati, da je bilo to storjeno.
Z razvrstitvijo po vlogi in stopnji tveganja lahko nadzornemu organu, revizorju ali nadzornemu svetu pokažete strukturo namesto obljube. Lahko navedete, katere kategorije potrebujejo pozornost in katere ne. O tem lahko poročate brez vsakič znova razlagati, zakaj nekaj niste vedeli. To je drugačen položaj kot reaktivno pojasnjevanje, zakaj je orodje neopaženo prišlo v uporabo.
Vprašanje o tveganju AI je videti drugače glede na funkcijo. Kaj mora CIO vedeti o tveganju AI govori o sistemih in infrastrukturi; kaj mora glavni pravni svetovalec vedeti o tveganju AI govori o odgovornosti in dokazovanju; kaj mora upravljavec tveganj vedeti o tveganju AI govori o tem, kako se tveganje AI umešča v obstoječo taksonomijo tveganj. Kot direktor imate opravka z vsemi tremi, vendar niste tisti, ki izvaja razvrstitev — vi ste tisti, ki mora lahko videti, da je bila izvedena.
Responsible AI Scan je v izdelavi. Trenutno ne obstaja orodje, ki bi ga lahko zagnali in iz katerega bi takoj izšlo poročilo. Kdor je za to zainteresiran, se lahko uvrsti na čakalno listo; ne ponuja se nič, kar še ne obstaja, in ne obljublja se nič glede tega, kdaj ali s kakšnim rezultatom.
Preden lahko ugotovite, ali je uporaba AI tvegana, je pogosto koristneje vedeti, kaj AI pomeni za samo delo: kateri del naloge se lahko prevzame in kateri ne. To vprašanje je blizu vprašanju tveganja, vendar ni enako — naloga, ki jo v veliki meri lahko prevzame AI, ni samodejno tvegana, in naloga, ki tega ne omogoča, ni samodejno varna. Delovni pregled podjetja FTE TO AI za vsako nalogo izračuna, kolikšen del dela lahko prevzame AI, in s tem ponuja osnovo, na podlagi katere je vprašanje tveganja mogoče zastaviti bolj natančno kot samo na podlagi seznama odobrenih aplikacij.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.