Eskalačná cesta pre incidenty s AI, ktorá je položená vedľa existujúcej štruktúry, sa v praxi obchádza. Nie preto, že by ju nikto nechcel používať, ale preto, že už existuje cesta: pre úniky dát, pre sťažnosti, pre operatívne poruchy. Kto musí v momente incidentu vybrať medzi dvoma cestami, vyberie tú, ktorú už pozná. Druhý proces vedľa prvého nie je dodatočná istota, je to odbočka, ktorá pod tlakom zmizne v prospech prvej.
Otázkou nie je, či má existovať eskalačná cesta. Otázkou je, kde sa napája. Eskalačná cesta pre AI funguje, keď neotvára nové priehradkové okienko, ale dáva existujúcemu okienku ďalší vstup. To znamená: rovnaká štruktúra hlásenia, ktorá sa už používa pre incidenty, doplnená o otázku, ktorá zisťuje, či išlo o AI. Rovnaký vlastník, ktorý je už zodpovedný za riešenie rizík, s jasnou predstavou o tom, kedy sa k nemu má dostať signál súvisiaci s AI. Rovnaká reportovacia línia smerom nahor, bez samostatnej AI-línie vedľa nej.
Čo do toho patrí, je tak menej zoznam krokov a viac súbor napájacích bodov: kto hlási, kam to prichádza, kto posudzuje, či sa má eskalovať, a komu. Pri každom z týchto bodov otázka neznie „ako by to malo fungovať“, ale „kde sa to už deje a čo je potrebné k tomu pridať, aby to zahŕňalo AI“. Eskalačná cesta postavená týmto spôsobom nepotrebuje samostatnú inštrukciu, pretože nevyžaduje iné správanie ako to, ktoré je už známe.
Existuje rozpoznateľný vzor: organizácia vytvorí špecifický proces pre AI, s vlastným formulárom, vlastnou komisiou, vlastným momentom reportovania. Na papieri je to úplné. V praxi sa to ignoruje, a nie z neochoty. Druhý proces vyžaduje, aby niekto v momente incidentu najprv určil, či ide o AI, predtým než vie, akú cestu má sledovať. Tento dodatočný krok odpadne, keď je časový tlak, a existujúca cesta – cesta, ktorá sa aj tak už používa pre podobné situácie – zvíťazí.
K tomu prichádza, že samostatný AI-proces zvyčajne dostane samostatného vlastníka, oddeleného od toho, kto je už zodpovedný za eskaláciu rizík vo všeobecnosti. To rozdeľuje prehľad v momente, keď je prehľad potrebný. Kto dostane signál o systéme AI, ktorý nefunguje tak, ako bolo zamýšľané, musí to vedieť zaradiť vedľa iných rizikových signálov, nie do izolovaného kanála, kde sa to posudzuje oddelene od zvyšku organizácie.
Zabudovanie znamená, že eskalačná cesta pre AI nie je viditeľne samostatnou súčasťou, ale rozšírením toho, čo už existuje. To vyžaduje niekoľko konkrétnych rozhodnutí, bez ohľadu na sektor: ktorý existujúci kanál hlásenia dostane doplnenú otázku o zapojení AI, ktorý existujúci vlastník rizika dostane oprávnenie posúdiť, či sa má vec ďalej eskalovať, a v ktorom existujúcom momente reportovania sa AI zahrnie, namiesto toho, aby sa vedľa neho postavil nový moment.
Tieto rozhodnutia závisia od toho, ako je organizácia už zriadená. Organizácia so silnou funkciou compliance umiestni posúdenie tam; organizácia, kde je riadenie rizík umiestnené v operatívnej línii, ho umiestni tam. Neexistuje fixná schéma, ktorá by pre každú organizáciu poskytla rovnakú eskalačnú cestu, pretože eskalačná cesta je z definície odrazom štruktúry, do ktorej je vložená.
Toto zabudovanie sa dotýka toho, ako sú riziká už zaradené — ako vyzerá to napojenie na existujúcu štruktúru rizík, je rozpracované na stránke o napojení na existujúcu klasifikáciu rizík — a toho, čo sa stane s eskaláciou, keď dosiahne rokovací stôl vedenia, ako je popísané na stránke o reporte pre predstavenstvo, ktorý sa zmestí na jednu stránku. Bez tohto napojenia zostáva eskalačná cesta dokumentom, ktorý niekde leží, namiesto cesty, ktorú niekto skutočne sleduje v momente, keď je to potrebné.
Eskalačná cesta má zmysel len tak, ak existuje niečo, čo eskaluje. To si vyžaduje formu monitorovania, ktorá poskytuje signály predtým, ako sa incident naplno prejaví, nielen rekonstrukciu spätne. Ako sa táto zložka monitorovania zriaďuje bez toho, aby sa stala novou reportovacou záťažou, je popísané na stránke o monitorovaní, ktoré sa napája na existujúce reportovanie, namiesto pridávania novej vrstvy. Spolu tvoria inventarizácia, monitorovanie a eskalácia reťaz: bez jednej z týchto troch zložiek nefunguje ani zvyšok naplno.
Kto túto cestu vytyčuje, robí to zvyčajne z pozície s zodpovednosťou za riziko alebo governance. Čo by mal v tejto súvislosti vedieť člen predstavenstva, je zhrnuté na stránke čo by mal člen predstavenstva vedieť o riziku AI; technická a operatívna stránka tej istej otázky sa nachádza na stránke čo by mal CIO vedieť o riziku AI. Oba pohľady sa spájajú v samotnej eskalačnej ceste, ktorá funguje na priesečníku riadiacej zodpovednosti a operatívnej realizácie.
Táto stránka popisuje mechanizmus; presné usporiadanie závisí od organizácie a nie je tu stanovené. FTE TO AI pracuje na nástroji, ktorý toto zabudovanie podporuje; kto sa tým už teraz zaoberá, sa môže prihlásiť na čakaciu listinu.
Eskalačná cesta upravuje, čo sa stane, keď niečo pokazí alebo hrozí, že sa pokazí. Inou otázkou, ktorá s tým často zostáva samostatne, je, čo AI už denne robí v bežnej práci. Pracovný sken od FTE TO AI vypočíta pre každú úlohu, akú časť práce môže prevziať AI, a poskytuje tak obraz o strane používania AI, ktorá nie je príležitostná, ale štrukturálna — obraz, ktorý je užitočný spolu s inventarizáciou rizík, o ktorej pojednáva táto stránka.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.