AI programový líder zvyčajne dostáva jedno mandát: zabezpečiť, aby sa AI adoptovala, aby tímy z toho boli rýchlejšie, aby program ukazoval výsledky. Druhý mandát sa pridáva zriedka: zabezpečiť, aby všetko, čo popri tom vzniká, bolo zodpovedné. Napriek tomu je hodnotený na oboch, keď sa niečo pokazí. To je jadro jeho rizika: je zodpovedný za program, ktorého hranice nepozná.
Čo získava adopciou — rýchlejšie procesy, spokojné tímy, viditeľný príbeh inovácie — stojí proti tomu, čo stráca, keď sa niečo pokazí: incident s nástrojom, ktorý nebol na jeho zozname, audit, ktorý sa pýta na otázky, na ktoré nemá odpoveď, vedenie, ktoré sa pýta, prečo program nevidel, čo už bežalo. Táto asymetria robí jeho pozíciu zraniteľnou, aj keď samotný program funguje dobre.
Jeho otázka nie je „ktoré AI nástroje sme schválili“. Ten zoznam má a často je kratší ako skutočnosť. Jeho otázka je: čo používajú tímy, ktoré nie sú na mojom zozname, a ako to zistiť bez toho, aby to ľudia skrývali. Programový líder, ktorý chce podporiť adopciu, si nemôže dovoliť, aby používatelia skrývali svoje nástroje zo strachu z korekcie. Kto sa opýta, čo sa používa, a potom z toho urobí problém, na ďalšiu otázku už odpoveď nedostane. Governance a adopcia tu pôsobia proti sebe, ak sa k tomu pristupuje nesprávne.
Odpoveď, ktorú neprijíma, je jednoduchá blokáda: „Používanie AI nie je povolené bez schválenia.“ Táto odpoveď na chvíľu uspokojí audítora, ale premiestní používanie na miesta, ktoré nikto nevidí. Je to presný opak toho, čo chce programový líder dosiahnuť: chce, aby bolo používanie AI viditeľné a sprevádzané, nie aby zišlo do podzemia. Zákaz bez mechanizmu na nahlasovanie a učenie je pre neho stratou, aj keby na papieri znel v súlade s predpisami.
Neprijíma ani odpoveď, ktorá zaobchádza so všetkým rovnako. Nástroj, ktorý zhrňuje text na interné použitie, nepredstavuje rovnaké riziko ako nástroj, ktorý automaticky rozhoduje o klientoch alebo zamestnancoch. Bez rozlíšenia podľa role a úrovne rizika program nemôže stanoviť priority, a programový líder, ktorý nemôže stanoviť priority, nemôže splniť svoj mandát.
Čo naozaj funguje, je inventarizácia, ktorá začína pri tom, čo existuje, nie pri tom, čo je schválené. To znamená klásť tímom otázky o tom, čo skutočne používajú, a robiť to spôsobom, ktorý neprináša odplatu. Len tak sa dostane do obrazu tzv. shadow AI — systémy, ktoré boli zavedené bez formálneho procesu, často preto, že uľahčovali prácu a nikto nevidel dôvod čakať na schválenie.
Potom nasleduje klasifikácia: ktorá aplikácia sa dotýka klientov, ktorá sa dotýka len interného procesu, ktorá rozhoduje bez človeka v procese. Toto rozdelenie určuje, kde má byť dohľad prísny a kde môže zostať ľahký. Bez tohto rozdelenia program zaobchádza so všetkým rovnako prísne alebo rovnako ľahko, a oboje je problém: prvé brzdí adopciu, druhé necháva riziká bez kontroly.
Štruktúra governance, ktorá nasleduje, musí zapadať do toho, čo v organizácii už existuje — existujúce risk komisie, existujúce reportovacie linky — a nie vytvárať nový okruh vedľa toho. Tu sa programový líder odlišuje aj od iných rolí v organizácii: predstaviteľ vedenia chce vedieť čo by mal predstaviteľ vedenia vedieť o AI riziku na úrovni konečnej zodpovednosti, CIO k tomu pristupuje zo strany systémov a prístupov, ako je popísané v čo by mal CIO vedieť o AI riziku, a General Counsel sa pozerá na zodpovednosť a povinnosť dokumentácie prostredníctvom čo by mal General Counsel vedieť o AI riziku. Programový líder musí byť schopný obsluhovať tieto tri perspektívy bez toho, aby stratil svoju vlastnú úlohu — adopciu.
Aké konkrétne povinnosti platia pre akú kategóriu rizika a v akých lehotách, nie je predmetom tejto stránky. Tento text sa mení, spresňuje a vysvetľuje na iných miestach. Tu ide o mechanizmus: ako program získa prehľad o tom, čo sa deje, ako to preloží do úrovní rizika, a ako to preukázateľne doloží voči vedeniu a dohľadu, bez ohľadu na to, čo presne predpisuje aktuálne znenie predpisov.
Hneď ako je jasné, čo beží a kto je za to zodpovedný, vzniká iná otázka: čo to prinesie, keď sa táto práca dobre zorganizuje. Je to otázka, na ktorú treba odpovedať podľa jednotlivých úloh, nie podľa organizácie. Werkscan spoločnosti FTE TO AI na tejto úrovni vypočíta, akú časť práce môže prevziať AI, takže programový líder nevie len to, čo sa deje, ale aj to, kde pridanie kapacity skutočne prináša rozdiel.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.