Mnoho iniciativ v oblasti governance začíná novým procesem: formulářem, schvalovacím krokem, výborem, který má posoudit využití AI před jeho zahájením. Předpokladem je, že zaměstnanci tento proces budou dodržovat, protože existuje. V praxi se to zřídka stává. Kdo dokáže úkol vyřešit rychleji pomocí nástroje, který si sám našel, nežádá o povolení výbor, jehož agendu nezná a jehož dobu vyřízení nedokáže odhadnout. Nástroj použije a nemluví o tom.
Toto není neochota. Je to racionální reakce na proces, který stojí vedle práce, místo aby byl její součástí. Druhý proces vyžaduje čas, přináší nejistotu ohledně výsledku a nenabízí žádnou viditelnou výhodu tomu, kdo ho dodrží. Pravděpodobnost, že bude ignorován, je pak větší než pravděpodobnost, že se podle něj bude postupovat.
Důsledkem není, že se AI nepoužívá. Důsledkem je, že se AI používá mimo dohled toho, kdo za ni odpovídá. Seznam schválených nástrojů IT oddělení pak zůstává popisem toho, co bylo kdysi požadováno, nikoli toho, co se skutečně používá. Mezi těmito dvěma seznamy může existovat značný rozdíl a nikdo, kdo se dívá jen na schválený seznam, tento rozdíl nevidí.
Toto se přímo dotýká otázky, kdo je odpovědný, když aplikace AI udělá chybu. Vedoucí pracovník, který chce být schopen přiřadit odpovědnost, musí vědět, který systém rozhodnutí ovlivnil. Pokud tento systém nebyl nikdy zaregistrován, protože registrační postup byl vynechán, tento základ chybí právě ve chvíli, kdy je potřebný.
Metoda, kterou používáme, nezačíná schvalovacím procesem, ale inventarizací, která se ptá, nikoli kontroluje. Rozdíl je formálně malý, ale svým účinkem velký. Zaměstnanec, kterého se zeptáte, co používá a k čemu, aniž by to pro něj měl důsledky, nemá důvod odpověď zatajovat. Zaměstnanec, který ví, že upřímná odpověď může vést k zákazu nebo nápravnému opatření, má naopak veškerý důvod odpověď upravit.
Toto je slabé místo metody a raději ho pojmenováváme, než abychom ho zamlčovali. Inventarizace bez postihu přináší přesnější obraz než audit s důsledky, ale nezaručuje, že bude nahlášeno každé použití. Kdo používá nástroj, o kterém tuší, že je problematický, může mlčet i bez přímé hrozby. Inventarizace snižuje práh pro nahlášení; zcela ho neodstraňuje. Co metoda skutečně přináší, je vyšší pravděpodobnost úplného obrazu než proces, který už předem naznačuje trest.
Druhý proces je ignorován. Doplnění stávajícího procesu má větší šanci obstát. Proto klasifikujeme využití AI podle role a úrovně rizika v rámci rizikové struktury, kterou organizace už používá, místo abychom vedle ní stavěli novou strukturu. Co je klasifikováno jako vysoké riziko, se pak zařadí na stejné místo jako ostatní vysoká rizika ve stávajícím registru rizik. To také znamená, že otázka, jak často je třeba klasifikaci opakovat, nevyžaduje nový kalendář, ale navazuje na stávající cyklus hodnocení rizik.
Toto navázání ale neřeší vše. Register AI, který byl vytvořen jednorázově, zastará ve chvíli, kdy někdo začne používat nový nástroj, aniž by to nahlásil. Proto je otázka, jak udržet register AI aktuální, stejně důležitá jako první inventarizace. Register, který se neudržuje, je po čase opět jen popisem minulosti.
Dohled nad využitím AI je často prezentován jako technická otázka: systém, který monitoruje, dashboard, který upozorňuje. Ale dohled, který funguje, začíná u lidí, kteří chápou, proč má nahlašování smysl, a kteří vědí, co se s jejich odpovědí stane. To je otázka chování, nikoli jen techniky, a souvisí s tím, co lidský dohled v praxi znamená na pracovišti, a s tím, co konkrétně obnáší AI gramotnost zaměstnanců. Bez tohoto porozumění zůstává každý proces, ať je navržen jakkoli dobře, formulářem, který lidé vyplňují, protože musí, nikoli protože jim to něco přináší.
Tento přístup nepřináší úplnou jistotu, že budou objeveny všechny aplikace AI. Snižuje práh pro nahlašování a navazuje na stávající struktury, ale organizace, která provádí inventarizaci poprvé, musí počítat s tím, že část využití zůstane neviditelná, i když po pečlivé inventarizaci je tato část obvykle menší než předtím.
Inventarizace využití AI ukáže, co běží a kdo to používá, ale ještě nic neříká o tom, jak velkou část podkladové práce může AI skutečně převzít. Tato otázka je o krok dál a odpovídá na ni pracovní analýza FTE TO AI, která pro každý úkol vypočítá, jakou část práce lze převzít. Kdo už ví, jaké nástroje se v organizaci používají, může s pomocí této analýzy zjistit, co toto využití znamená pro uspořádání samotné práce.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.