re-ai-gov Na čakaciu listinu

Kennisbank

Oddelenie, ktoré si samo obstaralo predplatné na AI

Ako to vzniká

Vedúci tímu hľadá riešenie opakujúceho sa problému: príliš veľa textu, príliš málo času, termín, ktorý sa neposúva. Niekde nájde nástroj, ktorý prácu zrýchli. Nástroj stojí málo, dá sa zaplatiť kreditnou kartou alebo zo súkromného účtu a nevyžaduje schválenie IT. Do jedného dňa s ním oddelenie pracuje. Nikto neurobil nič nesprávne — bol tu problém, bolo tu riešenie, a cesta medzi nimi neviedla cez žiadny formulár.

Toto nie je výnimka. Je to bežný vzor vždy, keď je AI nástroj lacnejší a dostupnejší než postup na jeho vyžiadanie. Čím náročnejšia je cesta žiadosti, tým väčšia je pravdepodobnosť, že ju niekto obíde. Zoznam IT so schválenými aplikáciami potom nepopisuje, čo sa skutočne deje, ale to, o čo bolo kedysi požiadané.

Prečo to samo od seba nezmizne

Predplatné, ktoré funguje, sa nezruší. Oddelenie, ktoré nástroj používa, vidí vyriešený problém, nie vzniknutú medzeru v riadení a dohľade. Bez konkrétneho podnetu nikto sám od seba nenahlási, že sa mimo dohľadu IT alebo risk pracuje s nástrojom, ktorý spracúva text, údaje o klientoch alebo interné dokumenty.

Vzor je podobný ako pri rozšírení prehliadača s prístupom k vašej pošte: niekto nainštaluje niečo malé, funguje to, a otázka, kto ešte spolu s ním čítá, sa nikdy nepoloží, pretože nikdy nenastane moment, kedy by sa táto otázka prirodzene vynorila. Tak vzniká zbierka aplikácií, ktoré sú jednotlivo malé a užitočné, a ktoré spolu tvoria slepé miesto väčšie, než je kto za neho jednotlivo zodpovedný.

Prečo naháňačka na vinníkov nefunguje

Prvým reflexom je často: vypátrať, označiť, prinútiť prestať. To má opačný účinok. Kto vie, že vlastné predplatné vedie k pokarhaniu, to nenahlási — nástroj potom používa ešte ticho, možno cez iný účet, možno mimo pracovného času. Inventár sa tak nestáva úplnejším, ale menej úplným, a problém sa presúva na miesto, ktoré je ešte ťažšie odhaliť.

Inventarizácia, ktorá funguje, nezačína otázkou „kto to urobil", ale otázkou „čo tu bežal". Bez odplaty dostanete odpoveď na otázku, aké nástroje sa používajú, na akú prácu a s akými údajmi. S odplatou dostanete len ticho a oddelenie, ktoré ďalší nástroj skryje ešte lepšie.

Čo potom naozaj pomáha

Prvým krokom nie je nápravné opatrenie, ale zviditeľnenie. To znamená klásť otázky ľuďom, ktorí prácu vykonávajú, nielen systémom, ktoré správcuje IT. Ako vybudovať inventár AI popisuje, ako môže takéto zisťovanie vyzerať: čo sa používa, na akú úlohu, s akými vstupmi.

Hneď ako je aplikácia zaznamenaná, ďalšou otázkou nie je, či môže ďalej existovať, ale akú úlohu zohráva a aká úroveň rizika k nej patrí. Nástroj, ktorý zhŕňa interné memorandá, si vyžaduje iný prístup než nástroj, ktorý pracuje s údajmi o klientoch. Táto klasifikácia určuje, čo treba zaznamenať pre každú aplikáciu — nie ako papierové cvičenie, ale ako základ, na základe ktorého bude možné neskôr preukázať, čo sa dialo a prečo to bolo zodpovedné.

Riziko osamoteného predplatného nestojí samo osebe. Rovnaký vzor niečoho, čo sa objaví bez žiadosti, sa opakuje pri testovacej zostave, ktorá nikdy nebola vypnutá a pri dodávateľovi, ktorý zabudoval AI do svojho produktu bez toho, aby o tom padla samostatná zmienka. Kto zmapuje jedno oddelenie s vlastným predplatným, urobí dobre, keď rovnakú otázku položí širšie — nie ako honbu na previnilcov, ale ako zaznamenanie toho, čo sa skutočne deje.

Zaradenie do štruktúry

Jednorazová inventarizácia zaznamená, čo momentálne beží. Bez opakovania je to fotografia, ktorá zastaráva už od dňa, keď bola vyhotovená. Nové oddelenia objavia nové nástroje, existujúce predplatné získa nové funkcie, a ďalšie slepé miesto vzniká rovnakým spôsobom ako predchádzajúce. Ako tento vzor rozpoznať skôr, než sa zopakuje, popisuje zamestnanci, ktorí používajú nástroj, ktorý nikto neschválil — ako nadväznosť na inventarizáciu, nie ako jej náhrada.

Od inventára k pochopeniu práce

Predplatné, ktoré si oddelenie samo obstaralo, vám väčšinou vypovedá niečo o samotnej práci: existovala úloha, ktorá zaberala príliš veľa času, a niekto hľadal východisko. Toto východisko je teraz zaznamenané, ale základná otázka zostáva — akú časť tejto práce je možné štrukturálne preniesť na AI, a za akých podmienok. Pracovný sken FTE TO AI vypočíta pre každú úlohu, akú časť práce môže prevziať AI, bez ohľadu na to, aký nástroj si na to oddelenie z vlastnej iniciatívy už našlo.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.