Marketingový tým potřebuje asistenta pro psaní. Finanční analytik chce nástroj, který shrnuje tabulky. Nikdo z nich nečeká na nákupní proces, který trvá měsíce. Existuje kreditní karta, e-mailová adresa, a během deseti minut je tu předplatné, které si oddělení samo platí, samo správuje a samo používá. IT oddělení o tom neví. Není důvod to hlásit, protože nic nebylo uděláno špatně — pouze byl vyřešen problém.
Většina stínového AI nezačíná pokusem obejít pravidla. Začíná úkolem, který musí být hotový rychleji, termínem, který nečeká na schvalovací proces, a nástrojem, který je dostupný bez zásahu kohokoli jiného. Oddělení, které si to předplatí, to nevnímá jako rozhodnutí IT. Vnímá to jako kancelářskou potřebu, ne jinak než softwarovou licenci, kterou všichni používali už dřív, než existovala centrální nákupní politika. To, že jazykový model zpracovává firemní data, čte údaje o klientech nebo generuje koncept textu, který půjde ven, není pro uživatele otázkou správy a řízení. Je to prostě práce.
Stejná dynamika se projevuje u dodavatele, který zabudoval AI do svého produktu, aniž by o tom proběhl samostatný rozhovor: funkce se objeví v aktualizaci, nikdo na to nic nepodepisuje a organizace to používá dřív, než někdo stanovil, kdo za to odpovídá.
Oznámení, že neschválené nástroje nejsou povoleny, mění málo. Oddělení, které má předplatné, to zažívá jako řešení, které funguje, ne jako riziko, které je třeba nahlásit. Zákaz bez alternativy přináší dvě věci: předplatné se přesune do podzemí, nebo tým s ním přestane a práce se zase zpomalí. Ani jedno z toho organizace nechce.
K tomu se přidává, že takové předplatné je zřídka jednorázové rozhodnutí. Stává se součástí pracovního postupu, propojuje se s jinými nástroji, používá se v procesech, které na něm nyní závisí. Co začíná jako zkouška, se stává trvalou součástí toho, jak tým pracuje — přesně ten vzorec, který je vidět i u testovací instalace, která nikdy nebyla vypnuta: nikdo nerozhodl, že to bude trvalé, ale nikdo také nerozhodl, že to bude zastaveno.
Reflex vypátrat stínové AI a konfrontovat uživatele s tím působí kontraproduktivně. Kdo ví, že hlášení vede k pokárání, nehlásí. Předplatné dál existuje, jen méně viditelně. Oddělení je opatrnější v tom, co hlásí, ne pečlivější v tom, co používá.
Co funguje, je ptát se bez toho, aby s tím byla spojená sankce. Tým, který používá nástroj k urychlení úkolu, k tomu má obvykle důvod, který organizace chce znát: proces, který je příliš pomalý, úkol, který je přetížený, potřeba, kterou stávající nabídka nepokrývá. Podívejte se, jak je to popsáno u zaměstnanců, kteří používají nástroj, který nikdo neschválil — výchozím bodem není porušení, ale potřeba, která za ním stojí.
Prvním krokem není vymáhání, ale inventarizace: jaké nástroje existují, kdo je používá, pro jaký úkol a s jakými údaji. Nejde to zjistit ze seznamu IT — ten zaznamenává to, co bylo schváleno, ne to, co se používá. Zjišťuje se to ptáním, způsobem, který neobsahuje hrozbu.
Jakmile je přehled o tom, co se používá, může následovat klasifikace: jakou roli nástroj hraje, jaká úroveň rizika k tomu patří a jaká forma dohledu je vhodná. Ne každé předplatné, které si oddělení samo zřídilo, představuje problém. Nástroj, který přepisuje veřejný text, patří do jiné kategorie než nástroj, který zpracovává data klientů, aniž by kdokoli věděl, kam tato data putují. Rozdíl mezi těmito kategoriemi je přesně to, o čem jde v lidském dohledu v praxi: ne každé použití vyžaduje stejnou míru kontroly, ale každé použití vyžaduje, aby se o něm vědělo, že existuje.
Potom následuje struktura správy a řízení, která navazuje na to, co už existuje — nikoli nový proces vedle stávajícího rizikového rámce, ale jeho rozšíření. Organizace, která zpracovává riziko AI oddělené od zbytku svého řízení rizik, riskuje, že tento druhý systém bude ignorován, jak popisuje druhý proces vedle stávajícího, který je ignorován. Přístup, který přetrvá, je ten, který navazuje na to, co organizace už dělá pro řízení rizika.
Předplatné, které si oddělení samo zřídilo, je většinou signálem, že něco musí probíhat rychleji, než stávající proces dovoluje. Tato otázka — která část práce se dá urychlit a kde to lze udělat strukturovaně, místo neviditelně — je přesně to, na co dává odpověď pracovní scan od FTE TO AI. Pracovní scan spočítá pro každý úkol, jakou část práce lze převést na AI, takže potřeba, která vedla ke stínovému předplatnému, získá místo v procesu, který organizace skutečně zná a skutečně řídí.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.