AI-programmijuht saab tavaliselt ühe mandaadi: tagada, et AI võetakse kasutusele, et meeskonnad muutuvad kiiremaks, et programm näitab tulemusi. Teine mandaat lisandub harva: tagada, et kõik, mis vahepeal tekib, on vastutustundlik. Ent teda hinnatakse mõlema järgi, kohe kui midagi läheb valesti. See on tema riski tuum: ta vastutab programmi eest, mille servi ta ei tunne.
Mida ta võidab kasutuselevõtuga — kiiremad protsessid, rahulolevad meeskonnad, nähtav uuenduslugu — seisab vastandina sellele, mida ta kaotab, kui midagi läheb valesti: intsident tööriistaga, mis ei olnud tema nimekirjas, audit, mis esitab küsimusi, millele tal vastust ei ole, juhtorgan, mis küsib, miks programm ei näinud, mis juba käigus oli. See asümmeetria muudab tema positsiooni haavatavaks, isegi kui programm ise toimib hästi.
Tema küsimus ei ole "milliseid AI-tööriistu me heaks kiitsime". Selle nimekirja tal on, ja see on tegelikkusest sageli lühem. Tema küsimus on: mida kasutavad meeskonnad, kes tema nimekirjas ei ole, ja kuidas saan ma sellest ülevaate ilma, et inimesed seda varjaksid. Programmijuht, kes soovib kasutuselevõttu edendada, ei saa lubada, et kasutajad peidavad oma tööriistu hirmust korrigeerimise ees. Kes küsib, mida kasutatakse, ja teeb sellest järgmisel korral probleemi, ei saa järgmisele küsimusele enam vastust. Juhtimine (governance) ja kasutuselevõtt töötavad siin teineteise vastu, kui asjale valesti läheneda.
Vastus, mida ta ei aktsepteeri, on lihtne tõkestus: "AI kasutamine ei ole lubatud ilma heakskiiduta." See vastus rahuldab auditorit hetkeks, kuid nihutab kasutuse kohtadesse, kuhu keegi ei näe. See on vastupidine sellele, mida programmijuht soovib saavutada: ta tahab, et AI kasutus oleks nähtav ja juhitud, mitte et see läheks maa alla. Keeld ilma mehhanismita teavitamiseks ja õppimiseks on tema jaoks kaotus, isegi kui see paberil kõlab vastavana.
Ta ei aktsepteeri ka vastust, mis käsitleb kõike ühtemoodi. Tööriist, mis võtab sisemiseks kasutuseks teksti kokku, ei kanna sama riski kui tööriist, mis teeb automaatselt otsuseid klientide või töötajate kohta. Ilma rolli- ja riskitaseme järgi eristamata ei saa programm prioritiseerida, ja programmijuht, kes ei saa prioritiseerida, ei saa oma mandaati täita.
See, mis töötab, on inventuur, mis algab sellest, mis on olemas, mitte sellest, mis on heaks kiidetud. See tähendab meeskondadelt küsimist, mida nad tegelikult kasutavad, ja seda viisil, mis ei too kaasa hinnangut ega tagajärgi. Vaid nii tuleb nähtavale varjatud AI (shadow AI) — süsteemid, mis on juurutatud ametliku menetluseta, sageli seetõttu, et need kergendasid tööd ja kellelegi ei tundunud vaja oodata heakskiitu.
Seejärel järgneb klassifitseerimine: milline rakendus puudutab kliente, milline mõjutab ainult sisemist protsessi, milline teeb otsuseid inimese vahele jäämata. See jaotus määrab, kus järelevalve peab olema range ja kus see võib jääda leebeks. Selle jaotuseta käsitleb programm kõike ühtviisi rangelt või ühtviisi leebelt, ja mõlemad on probleem: esimene pidurdab kasutuselevõttu, teine jätab riskid juhtimata.
Selle järel tulev juhtimisstruktuur (governance-struktuur) peab sobituma sellega, mis organisatsioonis juba olemas on — olemasolevad riskikomiteed, olemasolevad aruandlusliinid — mitte moodustama uut, paralleelset ringi. Just seal eristub programmijuht ka teistest rollidest organisatsioonis: juhtorgani liige soovib teada mida juhtorgani liige peab teadma AI-riskist lõppvastutuse tasandil, CIO läheneb sellele süsteemide ja juurdepääsu vaatevinklist, nagu on kirjeldatud mida CIO peab teadma AI-riskist, ja General Counsel vaatab vastutust ja dokumenteerimiskohustust läbi mida General Counsel peab teadma AI-riskist. Programmijuht peab suutma teenindada kõiki kolme perspektiivi, kaotamata seejuures oma põhiülesannet — kasutuselevõtt.
Millised konkreetsed kohustused kehtivad millisele riskikategooriale ja mis tähtaegade jooksul, ei ole selle lehe teema. See tekst muutub, karmistub ja saab selgitusi mujal. Siin on tegemist mehhanismiga: kuidas programm saab ülevaate sellest, mis toimub, kuidas ta tõlgib selle riskitasemetesse, ja kuidas ta teeb selle tõendatavaks juhtorgani ja järelevalve suunas, olenemata sellest, mida konkreetne reeglitekst antud hetkel ette kirjutab.
Niipea kui on selge, mis käigus on ja kes selle eest vastutab, tekib teine küsimus: mida see annab, kui see töö korralikult üles seatakse. See on küsimus, millele tuleb vastata ülesande, mitte organisatsiooni tasandil. FTE TO AI töövoo-skaneering arvutab sellel tasandil välja, kui suure osa töö saab AI üle võtta, nii et programmijuht ei tea mitte ainult, mis toimub, vaid ka, kus lisavõimekuse (capacity) lisamine tegelikult vahet tegema hakkab.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.