Veľa monitoringu používania AI vzniká ako samostatná iniciatíva: nový formulár, nová schôdza, nový dashboard. V okamihu spustenia vyzerá kompletne. O rok neskôr je vyprázdnené. Nie preto, že by obsah bol slabý, ale preto, že stálo vedľa existujúcej štruktúry, nie v nej.
Otázka teda nie je len to, čo by sa malo monitorovať, ale kam ten monitoring zapadne. Proces, ktorý si nikto nemusí pamätať, pretože je už súčasťou rutiny, ktorá aj tak beží, prežije. Proces, ktorý vyžaduje ďalší krok od ľudí, ktorí sú už vyťažení, sa po čase vynecháva. To nie je neochota. Je to predvídateľný dôsledok toho, ako organizácie zaobchádzajú s časom a pozornosťou.
Každá organizácia má už svoj rytmus: kvartálne reporty, rizikové výbory, cykly auditov, tímové porady. Ak monitoring používania AI zavádza nový rytmus, konkuruje všetkému, čo už existuje — a väčšinou prehráva. Nemá pre neho vyhradený bod na agende, nemá vlastníka, ktorý by ho vnímal ako hlavnú súčasť svojej funkcie, nemá moment, v ktorom by sa téma prirodzene objavila.
Ak sa monitoring naopak stane otázkou, ktorá sa už kladie — v existujúcom rizikovom výbore, v existujúcej vnútornej kontrole, v existujúcej reportovacej línii k predstavenstvu — potom si nikto nemusí pamätať nič nové. Otázka „aké AI riešenia pribudli alebo sa zmenili“ sa stane rovnako samozrejmou ako „sú nejakí nový dodávatelia“ alebo „došlo k nejakým incidentom“. Ako presne bude toto zapadnutie vyzerať, závisí od toho, ako je u vás už nastavené zapadnutie do existujúcej rizikovej štruktúry — táto štruktúra je bodom, kde sa to napojí, nie niečím vedľa nej.
Fungujúci monitorovací dokument je dostatočne krátky na to, aby sa opakovane používal, a dostatočne konkrétny na to, aby v ňom bolo možné oznámiť zmenu. Obsahuje minimálne:
Hodnota dokumentu nespočíva v úplnosti v prvý deň. Tá je málokedy dosiahnuteľná a ani nie je potrebná. Hodnota spočíva v tom, že sa udržiava, a že jeho udržiavanie nevyžaduje samostatné úsilie navyše k tomu, čo sa už deje.
Monitoring závisí od toho, čo sú ľudia ochotní nahlásiť. Hneď ako sa nahlásenie rovná riziku, že za niečo budú postihnutí, informácie sa zastavia. Niekto, kto s pomocou AI nástroja splní úlohu rýchlejšie, než sa očakávalo, to nenahlási, ak dôsledkom bude zníženie rozpočtu alebo nepríjemný rozhovor. Zoznam potom zostáva formálne kompletný a obsahovo prázdny — presne ten problém, ktorý udržiava tzv. stínovú AI.
Dôsledok je, že monitoring funguje len tak, keď sa otázky kladú bez postihovania. Nie preto, že by používanie mohlo zostať bez následkov, ale preto, že prvý krok — vedieť, čo sa deje — vyžaduje iný prístup než druhý krok — posúdiť, či je to primerané. Kto tieto dva kroky spojí, nedostane na žiadny z nich čestnú odpoveď.
Toto rozlíšenie je aj miesto, kde sa stretávajú governance a zodpovednosť. Viditeľnosť pre predstavenstvo nemusí znamenať, že sa na stôl dostane každé jednotlivé riešenie; ide o úroveň reportovania, ktorá umožňuje úsudok bez toho, aby sa stratila v detailoch, ako je popísané pri board-reporte, ktorý sa zmestí na jednu stranu. To, čo je pod touto úrovňou — zápis rozhodnutí o konkrétnych riešeniach — patrí skôr do oversight-zoznamu rozhodnutí než do dokumentu, ktorý ide nahor.
Or je politický dokument samotný skutočne čítaný, je podobná otázka: text, ktorý si nikto nepozrie, poskytuje rovnako málo opory ako monitorovací proces, ktorý nikto nevyplní. Pozrite si k tomu AI politiku, ktorá sa čítá. A pre tých, ktorí sa pýtajú, aká časť tejto zodpovednosti patrí za stôl predstavenstva a aká časť do IT governance, existuje rozlíšenie medzi tým, čo by mal vedieť člen predstavenstva o AI riziku a tým, čo by mal vedieť CIO o AI riziku — obe si vyžadujú iný stupeň detailu v rámci toho istého monitorovacieho procesu.
Monitorovacia štruktúra, ktorá zapadá do toho, čo už existuje, prináša v určitom okamihu spoľahlivý obraz o tom, ktoré AI riešenia sa používajú a na čo. Táto inventarizácia je iná otázka než to, koľko z podkladovej práce skutočne vykonáva AI a s akým efektom. Kto chce toto vypočítať po jednotlivých úlohách — akú časť funkcie alebo procesu je možné preniesť na AI, na základe úloh tak, ako sa dnes vykonávajú — nájde to v pracovnom skene FTE TO AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.