Vodja programa AI praviloma prejme en mandat: poskrbeti, da se AI sprejme, da ekipe zaradi tega delajo hitreje, da program pokaže rezultate. Redko poleg tega dobi še drugi mandat: poskrbeti, da je vse, kar medtem nastane, odgovorno vodeno. Kljub temu se ga presoja po obeh, takoj ko gre kaj narobe. To je jedro njegovega tveganja: odgovoren je za program, katerega robov ne pozna.
Kar pridobi s sprejemanjem AI — hitrejše procese, zadovoljne ekipe, viden zgodba o inovaciji — stoji nasproti temu, kar izgubi, če gre kaj narobe: incident z orodjem, ki ni bilo na njegovem seznamu, revizija, ki zastavlja vprašanja, na katera nima odgovora, uprava, ki sprašuje, zakaj program ni opazil, kaj se že dogaja. Ta asimetrija dela njegov položaj ranljiv, tudi če program sam po sebi dobro poteka.
Njegovo vprašanje ni "katera orodja AI smo odobrili". Ta seznam ima, in ta je pogosto krajši od resničnosti. Njegovo vprašanje je: kaj uporabljajo ekipe, ki niso na mojem seznamu, in kako to spoznam, ne da bi ljudje to skrivali. Vodja programa, ki želi spodbujati sprejemanje, si ne more privoščiti, da uporabniki skrivajo svoja orodja iz strahu pred korektivnim ukrepom. Kdor vpraša, kaj se uporablja, in nato iz tega naredi težavo, pri naslednjem vprašanju ne bo dobil odgovora. Upravljanje (governance) in sprejemanje delujeta tu drug proti drugemu, če se stvar napačno pristopi.
Odgovor, ki ga ne sprejema, je enostavna blokada: "Uporaba AI ni dovoljena brez odobritve." Ta odgovor za trenutek zadovolji revizorja, a uporabo preseli na mesta, ki jih nihče ne vidi. To je nasprotje tega, kar vodja programa želi doseči: želi, da je uporaba AI vidna in vodena, ne da gre v podzemlje. Prepoved brez mehanizma za prijavo in učenje je zanj izguba, tudi če se na papirju zdi skladna.
Ne sprejema niti odgovora, ki vse obravnava enako. Orodje, ki povzema besedilo za notranjo uporabo, ni enako tveganje kot orodje, ki samodejno sprejema odločitve o strankah ali zaposlenih. Brez razločevanja glede na vlogo in stopnjo tveganja program ne more določati prioritet, in vodja programa, ki ne more določati prioritet, ne more izvajati svojega mandata.
Kar deluje, je popis, ki se začne pri tem, kar dejansko obstaja, ne pri tem, kar je odobreno. To pomeni zastavljati ekipam vprašanja o tem, kaj dejansko uporabljajo, in to na način, ki ne prinaša kaznovanja. Le tako pride na dan senčni AI — sistemi, ki so bili vpeljani brez formalnega postopka, pogosto ker so olajšali delo in nihče ni videl razloga za čakanje na odobritev.
Nato sledi klasifikacija: katera aplikacija zadeva stranke, katera zadeva le notranji proces, katera sprejema odločitve brez človeka vmes. Ta razvrstitev določa, kje mora biti nadzor strog in kje lahko ostane blag. Brez te razvrstitve program obravnava vse enako strogo ali enako blago, in oboje je težava: prvo zavira sprejemanje, drugo pušča tveganja neobvladovana.
Struktura upravljanja, ki sledi, mora biti usklajena s tistim, kar že obstaja znotraj organizacije — z obstoječimi odbori za tveganja, obstoječimi linijami poročanja — ne pa novim krogotokom poleg njih. Prav tu se vodja programa razlikuje od drugih vlog v organizaciji: član uprave želi vedeti, kaj mora član uprave vedeti o tveganju AI na ravni končne odgovornosti, CIO pristopa iz vidika sistemov in dostopa, kot je opisano v kaj mora CIO vedeti o tveganju AI, in General Counsel gleda na odgovornost in dolžnost dokumentiranja preko kaj mora General Counsel vedeti o tveganju AI. Vodja programa mora biti sposoben zajeti vse tri perspektive, ne da bi izgubil svojo lastno nalogo — sprejemanje.
Katere konkretne obveznosti veljajo za katero kategorijo tveganja in v katerih rokih, ni predmet te strani. To besedilo se spreminja, se zaostruje in dobiva razlago na drugih mestih. Tu gre za mehanizem: kako program pridobi vpogled v to, kaj se dogaja, kako to prevede v stopnje tveganja in kako to dokazljivo izkaže upravi in nadzoru, ne glede na to, kaj natančno predpisuje trenutno besedilo predpisov.
Ko je jasno, kaj poteka in kdo je za to odgovoren, se pojavi drugo vprašanje: kaj to prinese, če se to delo dobro uredi. To je vprašanje, na katero je treba odgovoriti po nalogi, ne po organizaciji. Delovni sken podjetja FTE TO AI na tej ravni izračuna, kateri del dela je mogoče prevzeti z AI, tako da vodja programa ne ve le, kaj se dogaja, ampak tudi, kje dodajanje zmogljivosti dejansko naredi razliko.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.