V mnoha organizacích existuje pevný seznam aplikací, které by měly spadat „mimo rozsah". Textový návrh v textovém editoru, spamový filtr, chatbot, který odpovídá pouze na základě pevného FAQ. Předpoklad je, že tyto aplikace jsou příliš malé, příliš staré nebo příliš neškodné, aby spadaly pod governance. Tento předpoklad je někdy správný. Není správný vždy a jen zřídka zůstává správný trvale.
Zda se něco nachází mimo rozsah, není vlastnost technologie. Je to zařazení, které vyplývá z toho, co systém dělá, pro koho, a s jakým dopadem, pokud se něco pokazí. Stejný textový návrh, který se dnes nachází mimo rozsah, protože zaměstnanci pouze navrhuje slovo, se zítra může nacházet uvnitř rozsahu, jakmile automaticky dokončuje a odesílá e-maily bez zásahu člověka.
Tři faktory společně určují, zda se aplikace nachází uvnitř nebo mimo rozsah.
Prvním je funkce: rozhoduje systém, nebo pouze poskytuje informace, které posuzuje člověk? Nástroj, který řadí uchazeče o zaměstnání, je blíže k rozsahu než nástroj, který pouze umožňuje vyhledávání v životopisech. Na kterém konkrétním místě tohoto spektra se aplikace nachází a proč, se dozvíte v analýze toho, co znamená vysoká úroveň rizika pro vaši organizaci.
Druhým faktorem je role samotné organizace. Kdo systém kupuje a používá bez úprav, je v jiné pozici než kdo jej sám vytváří, trénuje nebo upravuje. Tatáž aplikace se může pro jednu organizaci nacházet mimo rozsah a pro druhou nikoli, čistě na základě toho, kdo nese jakou odpovědnost. Toto rozdělení je rozpracováno v otázce, zda jste poskytovatelem nebo uživatelem, a mění se, jakmile někdo v organizaci model upraví nebo přetrénuje, jak je popsáno v tom, co se změní, když si model sami upravíte.
Třetím faktorem je čas. Systém, který se nyní nachází mimo rozsah, tam nemusí být za rok, ne proto, že by se změnila pravidla, ale protože se změnilo použití. Chatbot, který začal jako zdroj informací, se může vyvinout v systém, který zpracovává stížnosti. Role týmu nebo oddělení vůči takovému systému se pak posouvá s ním, a kdy k tomu dochází, je popsáno v tom, kdy se vaše role mění a na čem to závisí.
Důsledkem těchto tří faktorů je, že „mimo rozsah" nikdy není trvalý stav. Je to momentální snímek, který je třeba znovu posoudit, jakmile se změní funkce systému, jakmile organizace získá jinou roli vůči tomuto systému, nebo jakmile se použití rozšíří na něco, co při nákupu nebylo předpokládáno.
Právě zde stínové AI narušuje zařazení. Aplikace, která je na seznamu IT oddělení uvedena jako „mimo rozsah", může být v praxi používána způsobem, který tomu už neodpovídá. Tým, který nasazuje jazykový model k tvorbě konceptů komunikace se zákazníky, jej možná používá i k odesílání definitivních odpovědí bez toho, aby to nahlásil. Klasifikace na papíře a použití v praxi se pak rozcházejí, a nikdo, kdo se dívá pouze na nakoupené licence, tento rozdíl nevidí.
Jediný způsob, jak to zjistit, je ptát se. Ne systému, ale lidí, kteří jej používají. To funguje pouze tehdy, pokud se ptaní nerovná trestání: kdo se bojí následků, upraví svou odpověď nebo neodpoví vůbec. Zařazení, které se opírá výhradně o nakoupené licence, tak systematicky opomíjí aplikace, které vznikly z praktického používání, a to jsou často právě ty aplikace, u nichž už nikdo neví, zda se stále nacházejí mimo rozsah, nebo se už dávno nacházejí hluboko uvnitř.
Otázku „nachází se toto mimo rozsah" tedy nelze zodpovědět oddělene od otázky, co přesně se děje, kdo o tom rozhoduje a jak dlouho tato situace už trvá. Inventura, která tyto tři faktory zaznamenává pro každou aplikaci, přináší zařazení, které odpovídá skutečné situaci, a ne předpokladu, se kterým byl systém kdysi zakoupen. Co při tom již nyní vyžaduje pozornost a co lze v klidu naplánovat, závisí na stejných faktorech a je zpracováno v rozlišení mezi tím, co je třeba řešit nyní a co lze naplánovat.
Jakmile je jasné, které aplikace se nacházejí uvnitř rozsahu a jakou roli v tom vaše organizace hraje, vzniká navazující otázka, která se netýká governance, ale samotné práce: jakou část úkolu taková aplikace vlastně přebírá, a jaká část zůstává lidskou prací? Na tuto otázku governance-scan neodpovídá. K tomu je určen pracovní scan (werkscan) od FTE TO AI, který pro každý úkol vypočítá, jakou část práce lze převést na AI, a poskytuje tak obraz nasazení, které se skrývá za klasifikací.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.