Vedoucí AI programu obvykle dostává jeden mandát: zajistit, aby byla AI adoptována, aby díky ní týmy pracovaly rychleji, aby program vykazoval výsledky. Druhý mandát se přidává jen zřídka: zajistit, aby vše, co při tom vzniká, bylo zodpovědné. Přesto je hodnocen podle obou, jakmile se něco pokazí. To je jádro jeho rizika: je odpovědný za program, jehož hranice nezná.
Co získává adopcí — rychlejší procesy, spokojené týmy, viditelný příběh o inovaci — stojí proti tomu, co ztrácí, když se něco pokazí: incident s nástrojem, který nebyl na jeho seznamu, audit, který klade otázky, na které nemá odpověď, vedení, které se ptá, proč program neviděl, co už běželo. Tato asymetrie dělá jeho pozici zranitelnou, i když samotný program funguje dobře.
Jeho otázka nezní "jaké AI nástroje jsme schválili". Ten seznam má, a bývá často kratší než realita. Jeho otázka zní: co používají týmy, které na mém seznamu nejsou, a jak to zjistit, aniž by to lidé skrývali. Vedoucí programu, který chce stimulovat adopci, si nemůže dovolit, aby uživatelé skrývali své nástroje ze strachu z nápravných opatření. Kdo se zeptá, co se používá, a následně z toho udělá problém, na další otázku už odpověď nedostane. Governance a adopce zde proti sobě působí, pokud se to zvládne špatně.
Odpověď, kterou nepřijímá, je jednoduchá blokáda: "Používání AI není povoleno bez schválení." Tato odpověď na okamžik uspokojí auditora, ale přesune používání na místa, která nikdo nevidí. Je to opak toho, co chce vedoucí programu dosáhnout: chce, aby používání AI bylo viditelné a doprovázené, ne aby zmizelo do podzemí. Zákaz bez mechanismu pro nahlašování a učení je pro něj ztráta, i když na papíře zní jako splnění předpisů.
Stejně tak nepřijímá odpověď, která vše posuzuje stejně. Nástroj, který shrnuje text pro vnitřní použití, není stejné riziko jako nástroj, který automaticky rozhoduje o klientech nebo zaměstnancích. Bez rozlišení podle role a úrovně rizika program nemůže stanovit priority, a vedoucí programu, který nemůže stanovit priority, nemůže naplnit svůj mandát.
Co funguje, je inventarizace, která začíná u toho, co existuje, ne u toho, co bylo schváleno. To znamená ptát se týmů, co skutečně používají, a dělat to způsobem, který nepřináší postih. Jen tak se dostane do obrazu stínová AI — systémy zavedené bez formálního schválení, často proto, že usnadňovaly práci a nikdo neviděl důvod čekat na povolení.
Po tom následuje klasifikace: která aplikace se dotýká klientů, která ovlivňuje jen vnitřní proces, která rozhoduje bez lidského zásahu. Toto rozdělení určuje, kde musí být dohled důrazný a kde může zůstat lehký. Bez tohoto rozdělení program zachází se vším stejně důrazně nebo stejně lehce, a obojí je problém: první brzdí adopci, druhé ponechává rizika bez kontroly.
Struktura governance, která poté následuje, se musí napojit na to, co v organizaci již existuje — stávající rizikové komise, stávající linie reportování — ne na nový paralelní okruh. Právě zde se vedoucí programu odlišuje od jiných rolí v organizaci: člen vedení chce znát co by měl člen vedení vědět o AI riziku na úrovni konečné odpovědnosti, CIO k tomu přistupuje z pohledu systémů a přístupu, jak je popsáno v co by měl CIO vědět o AI riziku, a General Counsel se dívá na odpovědnost a dokumentační povinnost prostřednictvím co by měl General Counsel vědět o AI riziku. Vedoucí programu musí umět obsloužit všechny tři perspektivy, aniž by ztratil svůj vlastní úkol — adopci.
Jaké konkrétní povinnosti platí pro jakou rizikovou kategorii a v jakých lhůtách, není předmětem této stránky. Tento text se měnÍ, zpřísňuje a vysvětluje na jiných místech. Zde jde o mechanismus: jak program získá přehled o tom, co se děje, jak to přeloží do úrovní rizika, a jak to prokazatelně doloží vedení a dohledovým orgánům, bez ohledu na to, co přesně předepisuje aktuální znění pravidel.
Jakmile je jasné, co běží a kdo je za to odpovědný, vzniká jiná otázka: co přinese, když se tato práce dobře uspořádá. To je otázka, na kterou je třeba odpovědět po jednotlivých úkolech, ne po celé organizaci. Pracovní skener FTE TO AI na této úrovni vypočítá, jakou část práce lze převést na AI, takže vedoucí programu nejen ví, co se děje, ale i kde přidání kapacity skutečně přináší rozdíl.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.