Nie každá AI-aplikácia v organizácii si vyžaduje rovnakú rýchlosť. Niektoré záležitosti vyžadujú okamžitú pozornosť, iné môžu byť zahrnuté do bežného plánovacieho cyklu. Problémom je, že toto rozdelenie sa málokedy robí explicitne. Bez klasifikácie získa všetko rovnakú urgentnosť, alebo — častejšie — žiadnu urgentnosť.
Otázka, či niečo musí teraz alebo môže počkať, nie je otázkou preferencie. Závisí od viacerých faktorov, ktoré spolu určujú, aká je závažnosť aplikácie.
Úroveň rizika aplikácie je prvým faktorom. Systém, ktorý rozhoduje o ľuďoch — nábor, poskytovanie úveru, prístup k službám — má inú váhu ako nástroj, ktorý sumarizuje text na interné použitie. Čo presne vysoká úroveň rizika znamená pre povinnosti organizácie, a prečo to nie je pre každú aplikáciu rovnaké, je popísané na stránke čo vysoká úroveň rizika znamená pre vašu organizáciu.
Rola organizácie je druhým faktorom. Organizácia, ktorá AI-systém sama vyvíja alebo upravuje, nesie iné zodpovednosti ako organizácia, ktorá prevezme a používa hotový systém. Táto rola sa navyše môže zmeniť bez toho, aby to bolo vedomé rozhodnutie: ten, kto model finetunuje, upravuje alebo nasadzuje inak, ako bolo zamýšľané, sa tým môže zmeniť z používateľa na poskytovateľa. Kde presne je táto hranica, je vysvetlené na stránkach čo sa zmení, keď model sami upravíte a ste poskytovateľ alebo používateľ, od čoho to závisí.
Tretím faktorom je, či aplikácia spadá do rozsahu (scope). Nie každý systém, ktorý sa nazýva AI, podlieha rovnakým povinnostiam; niektoré aplikácie sú vylúčené alebo spadajú pod mierny režim. Ktoré aplikácie spadajú mimo rozsahu a prečo, je popísané na stránke ktoré aplikácie spadajú mimo rozsahu.
Tieto tri faktory — úroveň rizika, rola, rozsah — spolu určujú, kde sa aplikácia umiestni na časovej osi. Vysoko rizikova aplikácia, pri ktorej organizácia vystupuje ako poskytovateľ, vyžaduje inú rýchlosť ako nízko rizikova aplikácia, ktorá možno už zakrátko spadne mimo rozsahu.
Rozdelenie nie je trvalé. Aplikácia, ktorá dnes platí za zvládnuteľnú, nemusí byť zvládnuteľnou zajtra — nie preto, že sa zmenia pravidlá, ale preto, že sa zmení samotná aplikácia. Model, ktorý sa upraví, systém, ktorý získa novú úlohu, nástroj, ktorý prejde z interného pilotu do produkcie: každý z týchto krokov môže spôsobiť posun roly alebo úrovne rizika.
Svoju úlohu hrajú aj organizačné zmeny. Fúzia, nový dodávateľ, rozšírenie používania na iné oddelenie — všetky tieto udalosti môžu aplikáciu, ktorá predtým platila za 'možno naplánovať', preradiť do kategórie 'musí teraz'. Kedy sa rola zmení a kde presne leží tento zlom, je rozpracované na stránke kedy sa zmení vaša rola, od čoho to závisí.
To znamená, že jednorazové rozdelenie nepostačuje. To, čo dnes figuruje na agende ako naplánovaná položka, môže vďaka zmene inde v organizácii získať inú váhu. Pevné, periodické opätovné posúdenie je preto súčasťou každého rozdelenia, ktoré má obstáť — nie ako doplnkový krok, ale ako podmienka na udržanie rozdelenia aktuálnym.
Jasné rozdelenie predchádza dvom protikladným chybám. Prvou je, že sa všetko posudzuje ako urgentné, čím sa priority rozplynú a pozornosť sa rozdrobí medzi aplikácie s malým rizikom. Druhou je, že sa nič nepovažuje za urgentné, čím aplikácie s reálnym rizikom zostávajú roky mimo pozornosti — často preto, že ich nikto nikdy neklasifikoval.
Samotné rozdelenie nie je jednorazový dokument, ale štruktúra, ktorá sa vyvíja spolu s organizáciou. Poskytuje prehľad o tom, čo si vyžaduje pozornosť v krátkom čase, čo možno zahrnúť do bežného procesu, a — rozhodujúce — čo treba znova posúdiť hneď, ako sa situácia zmení. Presne toto rozlíšenie, a otázka, od čoho závisí, je ďalej rozpracované na stránke čo musí teraz a čo možno naplánovať, od čoho to závisí.
Toto rozdelenie predpokladá, že je známe, aké aplikácie existujú. V praxi to zďaleka nie je vždy tak. Popri systémoch, ktoré boli schválené prostredníctvom IT alebo nákupu, funguje v takmer každej organizácii množstvo nástrojov, ktoré nikto neprihlásil a nikto nezaregistroval — asistent na spreadsheety tu, generátor textu tam, nasadené ľuďmi, ktorí chceli vyriešiť problém a nechceli prechádzať procedúrou. Táto tzv. stínová AI (shadow AI) sa neobjavuje na IT-zozname, a kto sa na ňu opýta bez toho, aby pre používateľa čokoľvek riskoval, dostane skôr čestnú odpoveď než ten, kto hneď hrozí sankciou. Bez tejto inventarizácie je každé rozdelenie podľa urgentnosti rozdelením len časti skutočnosti, nie jej celku.
Táto stránka sa venuje klasifikácii: čo má veľkú váhu, čo malú, čo si vyžaduje pozornosť teraz a čo môže počkať. Inou, doplnkovou otázkou je, čo AI-aplikácia v rámci konkrétnej úlohy skutočne prináša. Pracovná analýza (werkscan) od FTE TO AI vypočíta pre každú úlohu, akú časť práce možno prevziať AI, a tým poskytuje konkrétny obraz vedľa rozdelenia podľa governance: nielen či aplikácia nesie riziko, ale aj čo prináša samotnej práci.
Responsible AI Scan je vo vývoji. Kto chce inventarizáciu, klasifikáciu a sadu governance využiť hneď, ako budú k dispozícii, môže sa prihlásiť na čakaciu listinu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.