Tým chce pracovat rychleji a spustí AI nástroj, obvykle aby vyzkoušel něco konkrétního: shrnutí, první koncept, klasifikaci. Neexistuje schvalovací proces, protože je to "jen zkouška". Zkouška funguje, nebo funguje dostatečně dobře, a rozplyne se v každodenním provozu, aniž by kdy padlo rozhodnutí ji zachovat. Nikdy nenastal okamžik, kdy by si někdo vědomě řekl: toto zařadíme do naší inventury AI, toto má vlastníka, toto spadá do dané úrovně rizika. Byl jen okamžik začátku, a ten se otiskl do pracovního postupu, kterého se od té doby nikdo nedotkl.
Zastavení zkušebního provozu vyžaduje rozhodnutí. Pokračování nevyžaduje nic. Dokud nikdo nenahlásí incident nebo si externí strana nevyžádá důkaz kontroly, nemá kdo se vracet k něčemu, co už dávno je běžnou prací. Lidé, kteří nástroj používají, nemají zájem na tom, aby na něj upozornili: funguje, šetří čas, a nahlásit to působí jako riziko, že jim ho vezmou. A tak zůstává dočasné řešení trvalé, ne proto, že by to nikdo nevěděl, ale proto, že nikdo nepoloží otázku, která by vedla k vypnutí.
Je pochopitelné myslet si, že přehled schváleného softwaru toto zviditelní. Tento přehled ukazuje, co bylo pořízeno, ne co se používá. Zkušební provoz se často pohybuje mimo tento kanál: bezplatný účet, prohlížečový plugin, samostatné předplatné na týmovou karetu. Stejný vzorec se objevuje u rozšíření prohlížeče s přístupem k vaší poště, u oddělení s vlastním předplatným mimo centrální nákup, a u firemních dat, která se vloží do bezplatného chatovacího okna, aniž by za tím stála smlouva s podmínkami zpracování. Žádná z těchto situací se neobjevuje na seznamu IT, protože žádná z nich nebyla nikdy nahlášena jako projekt.
Jediný způsob, jak zjistit, co skutečně běží, je zeptat se. Ne jako kontrola zpětně, ale jako otevření dveří: co používáte, k čemu, a od kdy. Kdo tuto otázku položí s hrozbou sankcí v pozadí, nedostane odpověď, nebo dostane neúplnou odpověď. Zaměstnanci, kteří používají nástroj, který nikdo neschválil, mají při upřímnosti co ztratit a nic nezískají. Přesně toto napětí se řeší u zaměstnanců, kteří používají nástroj, který nikdo neschválil: bez pozvání, na které je bezpečné odpovědět, zůstává zkušební provoz v podzemí a nezmizí, jen ztichne.
Inventura bez důsledků pro toho, kdo věc nahlásí, je prvním krokem, nikoli závěrem. Po zviditelnění následuje klasifikace: co to je, jakou roli hraje v procesu a jaká úroveň rizika k tomu patří. Nástroj pro shrnování interních poznámek vyžaduje jiný režim než nástroj, který se podílí na rozhodování o přijetí klienta nebo hodnocení personálu. Tato klasifikace by měla navazovat na již existující strukturu rizik, ne na nový rámec vedle ní. Druhý, neformální proces, který je ignorován vedle stávajícího procesu, je přesně důvod, proč je druhý proces vedle stávajícího ignorován rozpoznatelným vzorcem: lidé následují cestu s menším odporem, a tato cesta se stane viditelnou až v okamžiku, kdy se na ni někdo zeptá.
Potom přichází otázka, kdo na to ještě dohlíží. Zkušební provoz, který byl uvolněn do každodenní práce, obvykle nemá už žádného vlastníka, který by posuzoval výstupy před jejich použitím. Právě zde se stává relevantním co lidský dohled v praxi znamená: ne jako abstraktní princip, ale jako konkrétní otázka, kdo si čte výstup, než ovlivní klienta, dokumentaci nebo rozhodnutí.
Statutární orgán, kterému na toto téma pokládá otázky dozorčí orgán, auditor nebo dozorčí rada, má dvě možnosti: říct, že přehled je úplný, nebo říct, že existuje proces, jehož cílem je přehled dokončit a udržovat úplný. Druhá možnost je upřímnější a z dlouhodobého hlediska silnější, protože organizace, která aktivně inventarizuje, má něco prokazatelného, i když inventura ještě není dokončena. Podstatou není, že už nikdy nevznikne žádný neautorizovaný zkušební provoz. Podstatou je, že existuje mechanismus, který ho najde dřív, než to za vás udělá incident.
Jakmile je zviditelněno, jaká AI vznikla neplánovaně, často se objeví jiná otázka: pokud tento tým už toto dělal, aniž by to kdo organizoval, co by se stalo, kdybychom to skutečně zorganizovali? To je jiná otázka než governance a patří k pracovní analýze FTE TO AI, která pro každý úkol vypočítá, jakou část práce lze rozumně přenést na AI. Zatímco tato stránka popisuje, jak získat přehled nad tím, co už běží, tato analýza popisuje, s týmž věcným pohledem na úkoly a rizika, co ještě lze vybudovat.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.