Často už existuje dokument s názvom eskalačný postup. Je v ňom schéma so šípkami, zoznam mien a niekoľko prahových hodnôt. Problém nie je, že dokument chýba. Problém je, že ho nikto neotvorí vo chvíli, keď je to potrebné.
Nestáva sa to z neochoty. Stáva sa to, pretože už existuje cesta, ktorou problémy stúpajú nahor: línový manažér, ktorý nahlási IT incident, compliance officer, ktorý hovorí s biznisom, teamleader, ktorý svoj problém predloží vlastnému nadriadenému. Táto cesta existuje, denne sa používa a funguje – pre veci, na ktoré je určená. Nová eskalačná cesta špecificky pre AI incidenty je tak druhou trasou vedľa trasy, ktorá už funguje. V prípade pochybností si každý vyberie trasu, ktorú pozná.
Eskalačná cesta, ktorá stojí oddelene od existujúcej štruktúry, vyžaduje od zamestnanca, aby najprv rozpoznal, že ide o AI incident, potom si zapamätal, že na to platí iný proces, a následne sa obťažoval tento proces dodržať, namiesto toho, aby jednoducho zavolal svojmu nadriadenému. Každý krok v tomto rade je moment, kedy sa cesta opustí.
K tomu sa pridáva druhý dôvod, menej viditeľný, ale rovnako rozhodujúci: kto nahlási odchýlku, nechce hneď skončiť na formulári incidentov organizácie. Ak eskalovanie rovná sa postihu, neeskaluje sa. To platí pre zamestnanca, ktorý použil AI nástroj, ktorý nebol schválený, a platí to aj pre manažéra, ktorý spustil model bez toho, aby o tom niekto vedel. Eskalačná cesta, ktorá sa skutočne používa, je cesta, kde prvé nahlásenie nie je odsúdením, ale signálom.
Eskalačná cesta, ktorá funguje, popisuje tri veci, a nič viac.
Kto niečo zaznamená – zamestnanec, klient, externá strana – musí vedieť, na koho sa môže obrátiť bez toho, aby najprv musel zisťovať, či ide o AI záležitosť alebo o bežnú operatívnu záležitosť. Cesta sa napája na miesto nahlasovania, ktoré už existuje, s ďalšou vetvou v momente, keď sa ukáže, že je do toho zapojená AI.
Kto rozhoduje – či sa niečo zastaví, upraví, alebo nahlási dozornému orgánu – musí byť stanovené predtým, ako incident nastane. Nie ako abstraktný názov funkcie, ale ako meno, so zastupujúcou osobou. Eskalácia, ktorá sa zastaví pri prázdnom mandáte, nie je eskalácia.
Čo sa potom stane s tým, kto nahlásil, musí byť jasné. Ak druhý proces obsahuje iba povinnosť nahlásiť bez jasnosti o dôsledkoch pre toho, kto nahlasuje, ľudia sa mu vyhýbajú. Presne tam sa skrýva tieňové AI: nie v systémoch, ktoré IT pozná, ale v nástrojoch, ktoré niekto začal používať bez toho, aby to nahlásil, pretože nahlásenie sa cítilo ako priznanie.
Riešením nie je hrubší dokument. Je to eskalačná cesta, ktorá využíva štruktúru, ktorá už existuje – miesto nahlasovania, eskalačnú linku, rizikový výbor – a k tomu pridáva AI-špecifickú vetvu v bodoch, kde má rozlíšenie zmysel. Ako presne toto napojenie funguje, aj pre širšiu politiku a zoznam rozhodnutí dozorného orgánu, je popísané v ako získať AI politiku, ktorá sa skutočne číta, pretože je zapojená do toho, čo už existuje a v ako získať zoznam rozhodnutí dohľadu, ktorý zapadá do existujúceho rytmu rozhodovania. Oba dokumenty sa dotýkajú rovnakého bodu: proces, ktorý stojí vedľa organizácie, sa ignoruje; proces, ktorý je do nej zapustený, sa dodržiava.
Tento princíp platí nielen pre eskaláciu. Platí pre celú štruktúru riadenia AI. Kto chce vedieť, ako to vyzerá v širšom rámci – ako klasifikácia rizika zapadá do existujúcich rizikových kategórií, ako napojenie na existujúcu rizikovú štruktúru zabraňuje vzniku paralelnej byrokracie – nájde tam základný princíp. Rovnako to platí pre reportovanie nahor: board reportovanie na jednu stranu funguje iba ak sú eskalácie, ktoré sú v ňom uvedené, aj skutočne nahlásené. A bez neustáleho sledovania toho, čo sa mení, každá eskalačná cesta zastarie do roka; čo to v praxi znamená, je vysvetlené na monitoring, ktorý niečo prináša.
Eskalačnú cestu je možné napísať až vtedy, keď je známe, čo môže eskalovať. Pokiaľ nikto nevie, aké AI v organizácii bežia – vrátane toho, čo nebolo schválené – dokument zostáva teoretický. Responsible AI Scan preto nezačína pri eskalačnej ceste, ale pri inventúre: čo beží, kto to používa a aká úroveň rizika k tomu patrí. Až na tomto základe je možné napísať eskalačnú cestu, ktorá zapadá do toho, čo už existuje, namiesto do toho, čo by malo existovať na papieri.
Eskalačné cesty sa týkajú toho, čo sa pokazí pri AI, ktoré sa už používa. Iná otázka, rovnako podceňovaná, je, kde by AI mohla samotnú prácu prevziať. Pracovný scan FTE TO AI vypočíta za každú úlohu, aká časť práce na to pripadá, bez ohľadu na to, či sa to už deje, alebo to ešte treba nastaviť.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.