Tím chce pracovať rýchlejšie a nasadí nástroj AI, väčšinou na vyskúšanie niečoho konkrétneho: súhrnu, prvého konceptu, klasifikácie. Neexistuje žiadny schvaľovací proces, pretože ide „len o test". Test funguje, alebo funguje dostatočne dobre, a bez toho, aby padlo rozhodnutie ho ponechať, sa vsunie do každodenného procesu. Nikdy nenastal okamih, kedy by niekto vedome zvolil: toto zaradíme do našej inventúry AI, toto má vlastníka, toto spadá pod danú úroveň rizika. Bol tam len okamih začiatku, a ten sa zapíše do spôsobu práce, ktorého sa už nikto nedotkol.
Zastavenie testovacej zostavy vyžaduje rozhodnutie. Pokračovanie nevyžaduje nič. Kým nikto nehlási incident alebo externá strana nepýta dôkaz o kontrole, nie je dôvod vracať sa k niečomu, čo sa už dávno stalo bežnou prácou. Ľudia, ktorí nástroj používajú, nemajú záujem na tom, aby na to upozorňovali: funguje, šetrí čas, a nahlásenie sa cíti ako riziko, že im ho vezmú. Dočasné riešenie tak zostáva štruktúrne, nie preto, že by to nikto nevedel, ale preto, že nikto nekladie otázku, ktorá by viedla k vypnutiu.
Je logické myslieť si, že prehľad schváleného softvéru toto zviditeľní. Ten prehľad ukazuje, čo bolo obstarané, nie čo sa používa. Testovacia zostava sa často pohybuje mimo tohto kanála: bezplatný účet, doplnok do prehliadača, samostatné predplatné na tímovej karte. Rovnaký vzor sa objavuje pri rozšírení prehliadača s prístupom k vašej e-mailovej schránke, pri oddelení s vlastným predplatným mimo centrálneho nákupu, a pri firemných dátach, ktoré sa vkladajú do bezplatného chatovacieho okna bez toho, aby za tým stála zmluva s podmienkami pre spracovateľov údajov. Žiadna z týchto situácií nie je na zozname IT, pretože žiadna z nich nikdy nebola nahlásená ako projekt.
Jediný spôsob, ako zistiť, čo sa skutočne používa, je pýtať sa. Nie ako spätná kontrola, ale ako otvorenie: čo používate, na čo, a odkedy. Kto túto otázku položí s hrozbou sankcií v pozadí, nezíska žiadnu odpoveď, alebo len neúplnú odpoveď. Zamestnanci, ktorí používajú nástroj, ktorý nikto neschválil, majú pri poctivosti čo stratiť a nič nezískajú. Presne toto napätie sa rieši pri zamestnancoch, ktorí používajú nástroj, ktorý nikto neschválil: bez pozvania, na ktoré je bezpečné odpovedať, zostáva testovacia zostava v podzemí, nezmizne, len stíchne.
Inventúra bez následkov pre toho, kto nahlási, je prvým krokom, nie záverom. Po zviditeľnení nasleduje klasifikácia: čo to je, akú úlohu hraje v procese, a aká úroveň rizika k tomu patrí. Nástroj na zhrnutie interných poznámok si vyžaduje iný režim ako nástroj, ktorý spolurozhoduje o akceptácii klienta alebo hodnotení zamestnancov. Táto klasifikácia by mala nadväzovať na existujúcu štruktúru rizík, nie na nový rámec vedľa nej. Druhý, neformálny proces, ktorý sa ignoruje popri existujúcom procese, je presne dôvod, prečo je druhý proces vedľa existujúceho ignorovaný rozpoznateľným vzorom: ľudia idú cestou menšieho odporu, a tá cesta sa stane viditeľnou len vtedy, keď sa na ňu niekto opýta.
Potom prichádza otázka, kto sa ešte na to pozerá. Testovacia zostava, ktorá sa uvoľnila do bežnej práce, väčšinou už nemá vlastníka, ktorý by posudzoval výsledky predtým, ako sa použijú. Práve tu sa stáva relevantné čo ľudský dohľad v praxi znamená: nie ako abstraktný princíp, ale ako konkrétna otázka, kto si prečíta výstup predtým, než ovplyvní klienta, dokument alebo rozhodnutie.
Predstaviteľ vedenia, ktorý je na to dotazovaný — dozorným orgánom, audítorom, dozornou radou — má dve možnosti: povedať, že prehľad je úplný, alebo povedať, že existuje proces na jeho dosiahnutie a udržanie úplnosti. Druhá možnosť je poctivejšia a z dlhodobého hľadiska silnejšia, pretože organizácia, ktorá aktívne inventarizuje, má niečo preukázateľné, aj keď inventúra ešte nie je hotová. Nejde o to, že by už nikdy nevznikla neautorizovaná testovacia zostava. Ide o to, že existuje mechanizmus, ktorý ju nájde skôr, než to za vás urobí incident.
Keď je raz zviditeľnené, aké AI vzniklo neplánovane, vzniká často iná otázka: ak toto tím už robil, bez toho, aby to niekto organizoval, čo by sa stalo, keby sme to organizovali? Je to iná otázka ako governance, a patrí k pracovnému skenu FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce môže AI reálne prevziať. Kde táto stránka popisuje, ako získať kontrolu nad tým, čo už bežia, ten sken popisuje, čo sa, s rovnako triezvym pohľadom na úlohy a riziká, ešte dá vybudovať.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.