Marketingový tím potrebuje asistenta na písanie textov. Finančný analytik chce nástroj, ktorý zhŕňa tabuľky. Nikto z nich nečaká na nákupný proces, ktorý trvá mesiace. Existuje kreditná karta, e-mailová adresa, a do desiatich minút je tu predplatné, ktoré si divízia sama platí, sama riadi a sama používa. IT oddelenie o tom nevie. Nie je dôvod to hlásiť, veď nič sa neurobilo nesprávne — len sa vyriešil problém.
Väčšina tieňového AI nezačína pokusom obísť pravidlá. Začína úlohou, ktorá musí byť hotová rýchlejšie, termínom, ktorý nečaká na schvaľovací proces, a nástrojom, ktorý je dostupný bez zásahu kohokoľvek iného. Divízia, ktorá si ho predplatí, to nevníma ako rozhodnutie o IT. Pôsobí to ako kancelárska potreba, nič iné než softvérová licencia, ktorú všetci používali už predtým, než existovala centrálna nákupná politika. To, že jazykový model spracúva firemné dáta, číta údaje o klientoch alebo generuje koncept textu, ktorý ide navonok, nie je pre používateľa otázkou governance. Je to jednoducho práca.
Rovnaká dynamika sa prejavuje aj u dodávateľa, ktorý zabudoval AI do svojho produktu bez toho, aby o tom prebehol samostatný rozhovor: funkcia sa objaví v aktualizácii, nikto na to nič nepodpisuje a organizácia to používa skôr, než niekto stanovil, kto za to zodpovedá.
Oznámenie, že neschválené nástroje nie sú povolené, zmení málo. Divízia, ktorá má predplatné, to vníma ako riešenie, ktoré funguje, nie ako riziko, ktoré treba nahlásiť. Zákaz bez alternatívy prináša dve veci: predplatné sa presunie do podzemia, alebo ho tím prestane používať a práca sa opäť spomalí. Nič z toho organizácia nechce.
K tomu treba dodať, že takéto predplatné zriedka zostáva jednorazovým rozhodnutím. Stáva sa súčasťou pracovného postupu, prepája sa s inými nástrojmi, používa sa v procesoch, ktoré sú na ňom už závislé. Čo začína ako skúška, stáva sa pevnou súčasťou toho, ako tím pracuje — presne ten vzorec, ktorý je vidieť aj pri skúšobnom nastavení, ktoré nikdy nevypli: nikto sa nerozhodol urobiť to trvalým, ale nikto sa ani nerozhodol to zastaviť.
Reflex vypátrať tieňové AI a konfrontovať s tým používateľa má opačný účinok. Kto vie, že nahlásenie vedie k pokarhaniu, nenahlási nič. Predplatné pretrváva, len menej viditeľne. Divízia je opatrnejšia v tom, čo hlási, nie dôslednejšia v tom, čo používa.
Čo naozaj funguje, je pýtať sa bez toho, aby s tým bola spojená sankcia. Tím, ktorý používa nástroj na urýchlenie úlohy, má na to väčšinou dôvod, ktorý chce organizácia poznať: proces, ktorý je príliš pomalý, úloha, ktorá je preťažená, potreba, ktorú existujúca ponuka nepokrýva. Pozrite, ako je to popísané pri zamestnancoch, ktorí používajú nástroj, ktorý nikto neschválil — východiskovým bodom nie je porušenie, ale potreba, ktorá za ním stojí.
Prvým krokom nie je presadzovanie pravidiel, ale inventarizácia: aké nástroje existujú, kto ich používa, na akú úlohu a s akými údajmi. To sa nedeje cez zoznam IT oddelenia — ten zaznamenáva, čo bolo schválené, nie čo sa používa. Deje sa to pýtaním, spôsobom, ktorý neobsahuje hrozbu.
Akonáhle je jasné, čo sa deje, môže nasledovať klasifikácia: akú úlohu nástroj hrá, aká úroveň rizika k tomu patrí a aká forma dohľadu je vhodná. Nie každé predplatné, ktoré si divízia sama zabezpečila, predstavuje problém. Nástroj, ktorý prepisuje verejný text, patrí do inej kategórie než nástroj, ktorý spracúva údaje o klientoch bez toho, aby niekto vedel, kam tie údaje idú. Rozdiel medzi týmito kategóriami je presne to, o čo ide pri ľudskom dohľade v praxi: nie každé použitie si vyžaduje rovnakú mieru kontroly, ale každé použitie si vyžaduje, aby sa o ňom vedelo.
Potom nasleduje štruktúra governance, ktorá naväzuje na to, čo už existuje — nie nový proces vedľa existujúceho rámca rizika, ale jeho rozšírenie. Organizácia, ktorá spracúva riziko AI oddelene od zvyšku svojho riadenia rizika, riskuje, že druhý systém sa začne ignorovať, ako sa píše pri druhom procese vedľa existujúceho, ktorý sa ignoruje. Prístup, ktorý pretrváva, je ten, ktorý naväzuje na to, čo organizácia už robí na riadenie rizika.
Predplatné, ktoré si divízia sama zriadila, je väčšinou signálom, že niečo musí byť rýchlejšie, než súčasný proces umožňuje. Táto otázka — ktorá časť práce sa dá urýchliť a kde sa to môže diať štruktúrovane, a nie nenápadne — je presne to, na čo dáva odpoveď pracovný scan od FTE TO AI. Pracovný scan vypočíta za každú úlohu, akú časť práce môže prevziať AI, aby potreba, ktorá viedla k tieňovému predplatnému, získala miesto v procese, ktorý organizácia skutočne pozná a skutočne riadi.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.