Zamestnanec vloží kus textu do bezplatného chatového okna, pretože to funguje rýchlejšie ako interný systém. Tím si zaobstará predplatné na AI nástroj, pretože žiadosť o niečo oficiálne by trvala týždne. Dodávateľ pridá AI funkcionalitu do softvéru, ktorý sa už roky používa, bez toho, aby o tom prebehol akýkoľvek rozhovor. Nikto z týchto ľudí sa nesnaží niečo skryť. Snažia sa robiť svoju prácu.
V tom je jadro tieňového AI: nevzniká z nevôle, ale z medzery medzi tým, čo ľudia potrebujú, a tým, čo prináša formálny proces. Pokiaľ táto medzera existuje, tieňové AI bude vznikať ďalej, bez ohľadu na to, koľko politík sa napíše.
Väčšina organizácií má prehľad schváleného softvéru. Tento prehľad je východiskovým bodom, nie odrazom skutočnosti. To, čo ľudia skutočne používajú, je v praxi takmer vždy vpred: otázka, ako predchádzať firemným dátam v bezplatnom chatovom okne ukazuje, ako jednoducho sa môže nástroj vymknúť akémukoľvek prehľadu. To isté platí pre oddelenie, ktoré si z vlastnej iniciatívy zaobstará predplatné, pretože bežná cesta pôsobí príliš pomaly, alebo pre rozšírenie prehliadača, ktoré získa prístup k e-mailu bez toho, aby na to existovalo samostatné schválenie. Žiadna z týchto situácií nie je na IT zozname. Napriek tomu existujú.
Existuje tendencia zaobchádzať s tieňovým AI ako s problémom presadzovania: zakázať, blokovať, sankcionovať. To má opačný účinok. Kto vie, že poctivá odpoveď vedie k problému, poctivú odpoveď už nedá. Nástroj nezmizne, stane sa iba menej viditeľným. Presne opak toho, čo organizácia potrebuje.
Druhý dôvod, prečo sa to samo od seba nevyrieši: existujúca governance je často budovaná pre softvér, ktorý kupujete a inštalujete, nie pre službu, ktorú si niekto otvorí v prehliadači a zajtra opäť opustí. Skúšobná zostava, ktorá bola raz zamýšľaná ako dočasná ukazuje, ako niečo malé, bez jasného momentu posúdenia, môže pokračovať roky, bez toho, aby sa k tomu niekto cítil ako vlastník. Bez procesu, ktorý tento druh používania systematicky zaznamenáva, zostáva mimo dohľadu, nech sú úmysly akokoľvek dobré.
Jediný spôsob, ako zistiť, čo sa deje, je pýtať sa. Nie ako kontrola, ale ako inventarizácia. Zamestnanci, ktorí vedia, že poctivá odpoveď nepovede k rozhovoru s HR, takú odpoveď aj dajú. To vyžaduje tón a proces, ktoré vopred jasne stanovia: ide o získanie prehľadu, nie o postih voči niekomu.
K tomu patrí aj pozornosť venovaná spôsobu, akým sa nové procesy stavajú vedľa existujúcich. Druhý proces, ktorý sa postaví vedľa existujúceho bez toho, aby sa prvý upravil alebo zrušil, sa často ignoruje, jednoducho preto, že ľudia zostávajú pri svojom zvyku. Inventarizácia, ktorá pribudne ako ďalšia povinnosť navyše k práci, dostane rovnaké zaobchádzanie.
Hneď ako je jasné, čo sa skutočne používa, nasleduje ďalšia otázka: čo daný nástroj robí a aké riziko s tým súvisí. Nástroj, ktorý zhŕňa text na interné použitie, si vyžaduje niečo iné než nástroj, ktorý spolurozhoduje o prijatí klienta alebo hodnotení zamestnancov. Táto klasifikácia podľa role a úrovne rizika je to, čo premení inventár na niečo použiteľné: základ, na ktorom môže predstavenstvo, CIO alebo General Counsel vysvetliť, čo sa deje a prečo je to zdôvodniteľné.
Táto vrstva governance nadväzuje na rizikovú štruktúru, ktorú organizácia už má, nie na nový rámec vedľa nej. Obsah pravidiel, ktoré musia AI aplikácie splniť, sa mení a je aktualizovaný inde; dôležité je tu to, že organizácia má funkčný spôsob, ako vedieť, čo je v prevádzke, kto je za to zodpovedný a ako sa to preukázateľne dokladuje predstavenstvu alebo dozornému orgánu.
Hneď ako je jasné, aké AI sa skutočne používa a s akým rizikom je to spojené, prirodzene vzniká iná otázka: akú časť práce by AI aplikácia vlastne mohla prevziať a akú nie. To je iná otázka než tá o schvaľovaní a dohľade, ale logicky na ňu nadväzuje. Werkscan spoločnosti FTE TO AI vypočíta pre každú úlohu, akú časť práce môže prevziať AI, na základe toho, čo daná funkcia skutočne zahŕňa. Kde Responsible AI Scan prináša poriadok do toho, čo už je v prevádzke, werkscan zobrazuje, čo sa ešte dá získať.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.