Eskalační cesta pro AI-incidenty, která je položena vedle stávající struktury, se v praxi přeskočí. Ne proto, že by ji nikdo nechtěl používat, ale proto, že už existuje jiná cesta: pro úniky dat, pro stížnosti, pro provozní poruchy. Kdo se v okamžiku incidentu musí rozhodnout mezi dvěma cestami, zvolí tu, kterou už zná. Druhý proces vedle prvního není dodatečná jistota, je to odbočka, která se v okamžiku tlaku ztratí ve prospěch první cesty.
Otázka nezní, zda má eskalační cesta existovat. Otázka zní, kam se napojuje. Eskalační cesta pro AI funguje tehdy, když neotevírá nové přepážky, ale dává stávající přepážce další vstup. To znamená: stejná struktura hlášení, která se už používá pro incidenty, doplněná otázkou, zda hraje roli AI. Stejný vlastník, který už je odpovědný za řešení rizik, s jasnou představou, kdy se k němu má dostat signál související s AI. Stejná linka hlášení nahoru, bez samostatné linky pro AI vedle ní.
Co do toho patří, je tedy méně seznamem kroků a více souborem napojovacích bodů: kdo hlásí, kam to přichází, kdo posuzuje, zda se má eskalovat, a komu. U každého z těchto bodů nezní otázka „jak by to mělo fungovat“, ale „kde už se to děje a co je k tomu potřeba přidat, aby to zahrnovalo AI“. Eskalační cesta postavená tímto způsobem nepotřebuje samostatnou instrukci, protože nevyžaduje jiné chování než to, které je už známé.
Existuje rozpoznatelný vzorec: organizace vytvoří proces specifický pro AI, s vlastním formulářem, vlastní komisí, vlastním okamžikem hlášení. Na papíře je to kompletní. V praxi se to ignoruje, a ne z neochoty. Druhý proces vyžaduje, aby si někdo v okamžiku incidentu nejprve určil, zda se jedná o AI, než ví, jakou cestu má zvolit. Tento dodatečný krok mizí ve chvíli, kdy je časový tlak, a stávající cesta — cesta, která se už tak jako tak používá pro podobné situace — vyhrává.
K tomu se přidává, že samostatný proces pro AI většinou dostane samostatného vlastníka, odděleného od toho, kdo je už odpovědný za eskalaci rizik obecně. To rozdělí přehled ve chvíli, kdy je přehled potřebný. Kdo dostane signál o AI-systému, který nefunguje podle záměru, musí to umět zařadit vedle jiných rizikových signálů, ne v izolovaném kanálu, kde se to posuzuje odděleně od zbytku organizace.
Zabudování znamená, že eskalační cesta pro AI není viditelně samostatná součást, ale rozšíření toho, co už existuje. To vyžaduje pár konkrétních rozhodnutí, nezávisle na sektoru: který stávající kanál hlášení dostane přidanou otázku o zapojení AI, který stávající vlastník rizika získá pravomoc posoudit, zda se má věc dál eskalovat, a v jakém stávajícím okamžiku hlášení se AI zahrne, místo aby se vedle něj postavil nový okamžik.
Tato rozhodnutí závisí na tom, jak je organizace už uspořádána. Organizace se silnou funkcí compliance položí posouzení tam; organizace, kde je řízení rizik zařazeno do provozní linky, ho položí tam. Neexistuje pevné schéma, které by pro každou organizaci přineslo stejnou eskalační cestu, protože eskalační cesta je z definice odrazem struktury, do které je vložena.
Toto zabudování se dotýká toho, jak se rizika už rozdělují — jak vypadá to napojení na stávající strukturu rizik, je rozpracováno na stránce o navázání na stávající klasifikaci rizik — a toho, co se s eskalací stane ve chvíli, kdy dosáhne úrovně představenstva, jak je popsáno na stránce o reportu pro představenstvo, který se vejde na jednu stránku. Bez tohoto napojení zůstává eskalační cesta dokumentem, který někde leží, místo aby byla cestou, kterou někdo skutečně sleduje ve chvíli, kdy je to potřeba.
Eskalační cesta je užitečná až tehdy, když existuje něco, co se eskaluje. To vyžaduje takovou formu monitoringu, která přináší signály předtím, než se incident naplno rozvine, ne jen rekonstrukci až po jeho skončení. Jak se tato část monitoringu uspořádá, aniž by se stala novou zátěží pro hlášení, je popsáno na stránce o monitoringu, který navazuje na stávající hlášení, místo aby přidával novou vrstvu. Inventarizace, monitoring a eskalace společně tvoří řetěz: bez jednoho z těchto tří prvků nefunguje ani zbytek plně.
Kdo tuto cestu vypracovává, dělá to obvykle z pozice s odpovědností za riziko nebo governance. Co v této souvislosti musí vědět člen představenstva, je shrnuto na stránce co musí vědět člen představenstva o riziku AI; technickou a provozní stránku téže otázky lze najít na stránce co musí vědět CIO o riziku AI. Oba pohledy se sbíhají v samotné eskalační cestě, která funguje na průsečíku odpovědnosti představenstva a provozního výkonu.
Tato stránka popisuje mechanismus; přesné uspořádání závisí na organizaci a zde se nestanovuje. FTE TO AI pracuje na nástroji, který toto zabudování podporuje; kdo se tímto už nyní zabývá, se může přihlásit na čekací listinu.
Eskalační cesta upravuje, co se stane, jakmile se něco pokazí nebo hrozí, že se pokazí. Jiná otázka, která s tím často zůstává jen volně spojená, je, co AI už denně dělá v běžné práci. Pracovní skenování FTE TO AI vypočítá pro každý úkol, jakou část práce lze převzít pomocí AI, a poskytuje tak obraz té stránky používání AI, která není příležitostná, ale strukturální — obraz, který je užitečný vedle inventarizace rizik, o níž tato stránka pojednává.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.