Často už existuje dokument s názvem eskalační postup. Je v něm schéma se šipkami, řada jmen a několik prahových hodnot. Problém není, že dokument chybí. Problém je, že ho nikdo neotevře ve chvíli, kdy je to potřeba.
To se neděje z neochoty. Děje se to proto, že už existuje cesta, po které problémy stoupají vzhůru: liniový manažer, který hlásí IT incident, compliance officer, který mluví s byznysem, teamleader, který svůj problém předá svému nadřízenému. Tato cesta existuje, denně se používá a funguje – pro věci, pro které je určena. Nová eskalační cesta specificky pro AI incidenty je pak druhou trasou vedle trasy, která už běží. V případě pochybností si každý vybere trasu, kterou znám.
Eskalační cesta, která stojí mimo existující strukturu, vyžaduje od zaměstnance, aby nejprve rozpoznal, že se jedná o AI incident, potom si vzpomněl, že pro to platí jiný proces, a následně vynaložil úsilí tento proces dodržet, místo aby jednoduše zavolal svému nadřízenému. Každý krok v tomto řetězci je okamžikem, kdy se cesta opustí.
K tomu se přidává druhý důvod, méně viditelný, ale stejně rozhodující: kdo hlásí odchylku, nechce hned figurovat na formuláři organizace pro incidenty. Pokud se eskalace rovná odpovědnosti za následky, neeskaluje se. To platí pro zaměstnance, který použil AI nástroj, jenž nebyl schválen, a platí to i pro manažera, který nechal běžet model, o kterém nikdo nevěděl. Eskalační cesta, která se skutečně používá, je cesta, kde první hlášení není odsudek, ale signál.
Eskalační cesta, která funguje, popisuje tři věci, a nic víc.
Kdo něco zaznamená – zaměstnanec, klient, externí strana – musí vědět, na koho se obrátit, aniž by nejprve musel zjišťovat, zda se jedná o AI záležitost, nebo o běžnou provozní záležitost. Cesta navazuje na místo hlášení, které už existuje, s doplňkovou větví ve chvíli, kdy se ukáže, že je do toho zapojena AI.
Kdo přijímá rozhodnutí – zda se něco zastaví, upraví, nebo nahlásí dozorovému orgánu – musí být stanoveno předtím, než k incidentu dojde. Ne jako abstraktní titul funkce, ale jako jméno, se zástupcem. Eskalace, která se zastaví u prázdného mandátu, není eskalace.
Co se poté stane s osobou, která hlásí, musí být jasné. Pokud druhý proces sestává jen z povinnosti hlásit bez jasnosti ohledně následků pro toho, kdo hlásí, bude se mu vyhýbat. Přesně tam se skrývá stínová AI: ne v systémech, které IT zná, ale v nástrojích, které někdo začal používat, aniž by to nahlásil, protože nahlásit to působilo jako přiznání.
Řešením není tlustší dokument. Je to eskalační cesta, která využívá strukturu, jež už existuje – místo hlášení, eskalační linku, výbor pro rizika – a k ní na místech, kde to dělá rozdíl, přidává větev specifickou pro AI. Jak toto navázání přesně funguje, včetně širší politiky a seznamu rozhodnutí dozorového orgánu, je popsáno v jak získat AI politiku, která se čte, protože je zakotvena v tom, co už existuje a v jak získat seznam rozhodnutí dohledu, který navazuje na existující rytmus rozhodování. Oba dokumenty se dotýkají stejného bodu: proces, který stojí vedle organizace, se ignoruje; proces, který je do ní zakotven, se dodržuje.
Tento výchozí bod platí nejen pro eskalaci. Platí pro celou governance strukturu kolem AI. Kdo chce vědět, jak to vypadá v širším měřítku – jak klasifikace rizik navazuje na existující kategorie rizik, jak navázání na existující strukturu rizik předchází vzniku paralelní byrokracie – najde tam základní princip. Totéž platí pro reportování směrem nahoru: board reportáž na jednu stranu funguje jen tehdy, pokud eskalace, které jsou v ní uvedeny, byly skutečně nahlášeny. A bez trvalého sledování toho, co se mění, každá eskalační cesta zestárne během roku; co to v praxi znamená, je vysvětleno na monitorování, které něco přináší.
Eskalační cestu lze napsat až tehdy, když je známo, co může eskalovat. Dokud nikdo neví, jaká AI v organizaci běží – včetně toho, co nebylo schváleno – zůstává dokument teoretický. Responsible AI Scan proto nezačíná u eskalační cesty, ale u inventury: co běží, kdo to používá a jaká úroveň rizika k tomu patří. Až na základě toho lze napsat eskalační cestu, která navazuje na to, co už existuje, místo na to, co by podle papíru existovat mělo.
Eskalační cesty se týkají toho, co se pokazí s AI, která už se používá. Jiná otázka, stejně opomíjená, je, kde by AI mohla samotnou práci převzít. Werkscan od FTE TO AI u každé úlohy vypočítá, jaká část práce k tomu připadá v úvahu, nezávisle na otázce, zda se to už děje, nebo to ještě musí být zavedeno.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.