V mnohých organizáciách existuje pevný zoznam aplikácií, ktoré by mali „spadať mimo rozsahu“. Textový návrh v textovom editore, spamový filter, chatbot, ktorý odpovedá len na základe pevne stanoveného FAQ. Predpoklad je, že tieto aplikácie sú príliš malé, príliš staré alebo príliš nevinné na to, aby spadali pod governance. Tento predpoklad je niekedy správny. Nie je správny vždy a málokedy platí trvalo.
Or niečo spadá mimo rozsahu, nie je vlastnosťou technológie. Je to zaradenie, ktoré vyplýva z toho, čo systém robí, pre koho, a s akým dôsledkom, keď sa niečo pokazí. Ten istý textový návrh, ktorý dnes spadá mimo rozsahu, pretože zamestnancovi len navrhuje slovo, môže zajtra spadať do rozsahu, keď automaticky dokončuje a odosiela e-maily bez zásahu človeka.
Tri faktory spoločne určujú, či aplikácia spadá do rozsahu alebo mimo neho.
Prvým je funkcia: prijíma systém rozhodnutie, alebo poskytuje len informáciu, ktorú posúdi človek? Nástroj, ktorý zoraďuje uchádzačov o zamestnanie, je bližšie k rozsahu než nástroj, ktorý len robí životopisy vyhľadateľnými. O tom, kde presne na tomto spektre sa aplikácia nachádza a prečo, si môžete prečítať v analýze toho, čo znamená vysoká úroveň rizika pre vašu organizáciu.
Druhým faktorom je úloha samotnej organizácie. Kto systém kupuje a používa ho nezmenený, je v inej situácii než kto ho sám vytvára, trénuje alebo upravuje. Tá istá aplikácia môže pre jednu organizáciu spadať mimo rozsahu a pre inú nie, čisto na základe toho, kto nesie akú zodpovednosť. Toto rozdelenie sa rozoberá v otázke, či ste poskytovateľom alebo používateľom, a mení sa hneď, ako niekto v organizácii model upraví alebo pretrénuje, ako je popísané v tom, čo sa zmení, keď model sami upravíte.
Tretím faktorom je čas. Systém, ktorý teraz spadá mimo rozsahu, tak o rok nemusí byť, nie preto, že by sa zmenili pravidlá, ale preto, že sa zmenilo použitie. Chatbot, ktorý začal ako zdroj informácií, sa môže rozrásť na systém, ktorý riadi vybavovanie sťažností. Úloha tímu alebo oddelenia voči takémuto systému sa potom posúva, a kedy sa to stane, je popísané v tom, kedy sa vaša úloha mení a od čoho to závisí.
Dôsledkom týchto troch faktorov je, že „mimo rozsahu“ nikdy nie je trvalý stav. Je to momentálny záznam, ktorý sa musí znova preskúmať, keď sa zmení funkcia systému, keď organizácia získa inú úlohu vo vzťahu k tomuto systému, alebo keď sa použitie rozšíri na niečo, čo pri kúpe nebolo predvídané.
Presne tu tienisté AI (shadow AI) narúša toto zaradenie. Aplikácia, ktorá je na zozname IT oddelenia zapísaná ako „mimo rozsahu“, sa v praxi môže používať spôsobom, ktorý tomu už nezodpovedá. Tím, ktorý nasadí jazykový model na písanie konceptov komunikácie s klientmi, ho možno používa aj na odosielanie definitívnych odpovedí bez toho, aby to nahlásil. Klasifikácia na papieri a použitie v praxi sa potom rozchádzajú, a nikto, kto sa pozerá len na zakúpené licencie, tento rozdiel nevidí.
Jediný spôsob, ako o tom získať prehľad, je pýtať sa. Nie systému, ale ľudí, ktorí ho používajú. To funguje len tak, že pýtanie sa neznamená vyvodzovanie dôsledkov: kto sa bojí následkov, upraví svoju odpoveď alebo ju vôbec nedá. Zaradenie, ktoré sa opiera výlučne o zakúpené licencie, tak systematicky prehliada aplikácie, ktoré vznikli z praktického používania, a to sú často presne tie aplikácie, o ktorých už nikto nevie, či ešte spadajú mimo rozsahu, alebo sú už dávno hlboko v ňom.
Otázku „spadá toto mimo rozsahu“ teda nemožno zodpovedať oddelene od otázky, čo presne sa deje, kto o tom rozhoduje, a ako dlho táto situácia už trvá. Inventár, ktorý tieto tri faktory zaznamenáva pre každú aplikáciu, prináša zaradenie, ktoré zodpovedá skutočnej situácii, a nie predpokladu, s akým bol systém kedysi zakúpený. Čo si už teraz vyžaduje pozornosť a čo sa môže naplánovať s pokojom, závisí od tých istých faktorov a je rozobraté v rozdelení na to, čo je potrebné teraz a čo sa môže naplánovať.
Hneď ako je jasné, ktoré aplikácie spadajú do rozsahu a akú úlohu pri tom zohráva vaša organizácia, vzniká nasledujúca otázka, ktorá sa nezaoberá governance, ale samotnou prácou: akú časť úlohy vlastne takáto aplikácia prevezme a aká časť zostáva prácou človeka? Na túto otázku governance-scan neodpovedá. Na to je určený work-scan od FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce je možné prenechať AI, a tak poskytuje obraz nasadenia, ktoré sa skrýva za klasifikáciou.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.