AI programos vadovas dažniausiai gauna vieną mandatą: pasirūpinti, kad AI būtų adoptuotas, kad komandos dėl to dirbtų greičiau, kad programa parodytų rezultatus. Antras mandatas retai prisideda: pasirūpinti, kad visa, kas tuo tarpu susikuria, būtų atsakinga. Tačiau jis atsakingas už abu, kai kas nors nutinka negerai. Tai ir yra jo rizikos esmė: jis atsakingas už programą, kurios ribų jis pats nežino.
Ką jis laimi su adopcija — greitesni procesai, patenkintos komandos, matomas atsinaujinimo pasakojimas — stovi prieš tai, ką jis pralaimi, kai kas nors nutinka negerai: incidentas su įrankiu, kurio nebuvo jo sąraše, auditas, kuris kelia klausimus, į kuriuos jis neturi atsakymo, valdyba, kuri klausia, kodėl programa nepastebėjo, kas jau vyko. Ta asimetrija daro jo padėtį pažeidžiamą, net jei programa pati veikia gerai.
Jo klausimas nėra „kokius AI įrankius mes patvirtinome“. Tą sąrašą jis turi, ir jis dažnai yra trumpesnis nei realybė. Jo klausimas yra: ką naudoja komandos, kurių nėra mano sąraše, ir kaip man tai išsiaiškinti taip, kad žmonės to neslėptų. Programos vadovas, kuris norė skatinti adopciją, negali leisti, kad naudotojai slėptų savo įrankius bijodami korekcijos. Tas, kuris klausia, kas naudojama, o paskui iš to padaro problemą, kitą kartą klausdamas atsakymo nebegaus. Valdymas ir adopcija čia veikia vienas prieš kitą, jei prie to prieinama neteisingai.
Atsakymas, kurio jis nepriima, yra vienintelis blokas: „AI naudojimas neleidžiamas be patvirtinimo.“ Tas atsakymas trumpam patenkina auditorių, tačiau perkelia naudojimą į vietas, kurių niekas nemato. Tai priešinga tam, ko programos vadovas siekia: jis norė, kad AI naudojimas būtų matomas ir palaikomas, o ne kad jis nueitų į pogrindį. Draudimas be mechanizmo pranešti ir mokytis jam yra nuostolis, net jei popieriuje tai skamba atitinkamai reikalavimams.
Jis taip pat nepriima atsakymo, kuris visą traktuoja vienodai. Įrankis, kuris apibendrina tekstą vidiniam naudojimui, nėra ta pati rizika kaip įrankis, kuris automatiškai priima sprendimus apie klientus ar darbuotojus. Nesant skirtumo pagal vaidmenį ir rizikos lygį, programa negali nustatyti prioritetų, o programos vadovas, kuris negali nustatyti prioritetų, negali vykdyti savo mandato.
Kas veikia, yra inventorizacija, kuri pradeda nuo to, kas yra, o ne nuo to, kas patvirtinta. Tai reiškia klausimų kėlimą komandoms apie tai, ką jos faktiškai naudoja, ir tai daryti taip, kad tai nesukeltų atsiskaitymo. Tik tada šešėlinis AI patenka į akiratį — sistemos, kurios buvo įvestos be formalaus proceso, dažnai nes jos palengvino darbą ir niekas nematė priežasties laukti patvirtinimo.
Po to seka klasifikacija: kuris pritaikymas paveikia klientus, kuris paveikia tik vidinį procesą, kuris priima sprendimus be žmogaus tarpe. Ta klasifikacija nustato, kur priežiūra turi būti sunki, o kur ji gali likti lengva. Be tos klasifikacijos programa traktuoja visą vienodai sunkiai arba vienodai lengvai, ir abu variantai yra problema: pirmasis stabdo adopciją, antrasis palieka riziką nekontroliuojamą.
Valdymo struktūra, kuri po to seka, turi jungtis su tuo, kas jau egzistuoja organizacijoje — su esamomis rizikos komisijomis, esamomis ataskaitų teikimo linijomis — o ne su nauju grandinės greta. Tai taip pat vieta, kur programos vadovas skiriasi nuo kitų vaidmenų organizacijoje: valdybos narys norė žinoti ką valdybos narys turi žinoti apie AI riziką galutinio atsakomybės lygmens, CIO prieina iš sistemų ir prieigos perspektyvos, kaip aprašyta ką CIO turi žinoti apie AI riziką, o General Counsel žiūri į atsakomybę ir dokumentavimo pareigą per ką General Counsel turi žinoti apie AI riziką. Programos vadovas turi galėti aptarnauti tuos tris perspektyvas nepraradus savo pačio užduoties — adopcijos.
Kokie konkretūs reikalavimai taikomi kuriai rizikos kategorijai ir per kokius terminus, nėra šio puslapio tema. Tas tekstas keičiasi, tampa aiškesnis ir yra paaiškinamas kitose vietose. Čia kalbama apie mechanizmą: kaip programa įgauna įžvalgą į tai, kas vyksta, kaip ji tai perkelia į rizikos lygius, ir kaip ji tai įrodomai parodo valdybai ir priežiūrai, nepaisant to, ką tiksliai nustato taisyklių tekstas konkrečiu momentu.
Kai tampa aišku, kas veikia ir kas už tai atsakingas, kyla kitas klausimas: ką tai duoda, jei tas darbas tinkamai sutvarkytas. Tai klausimas, į kurį turi būti atsakyta pagal užduotį, ne pagal organizaciją. FTE TO AI darbo skanas tuo lygiu apskaičiuoja, kurią darbo dalį galima perduoti AI, taip, kad programos vadovas žinotų ne tik tai, kas vyksta, bet ir kur pajėgumų didinimas faktiškai sukuria skirtumą.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.