Otázka, které aplikace se nacházejí mimo rozsah, zní jako žádost o seznam. To ale není. Zda něco spadá do rozsahu, nebo mimo něj, je zařazení, které závisí na tom, co daná aplikace dělá, v jakém kontextu a pro koho. Stejná technologie může v jedné aplikaci zůstat mimo pozornost a v jiné se dostat pod plnou kontrolu. Pevný seznam vyloučených aplikací proto neexistuje — existuje ale několik faktorů, které zařazení určují.
Prvním faktorem je funkce aplikace: o čem systém rozhoduje nebo co doporučuje, a pro koho to má důsledky. Nástroj, který přepisuje interní text, je jiný případ než nástroj, který se podílí na rozhodování o žádosti, přihlášce nebo pojistném nároku. Druhým faktorem je úroveň rizika spojená s touto funkcí: čím větší jsou důsledky pro lidi, tím spíše se aplikace posouvá směrem k závažnější části spektra. Třetím faktorem je role samotné organizace: kdo systém pouze používá, je posuzován jinak než ten, kdo jej upravuje, dále trénuje nebo sestavuje z komponent jiných stran. Co toto rozdělení rolí přesně obnáší a kdy se posouvá, je popsáno na stránkách o rozdílu mezi poskytovatelem a uživatelem AI systému a o okamžiku, kdy se role uživatele přesouvá do jiné odpovědnosti.
Čtvrtým faktorem je faktor technické povahy, který je ale právně relevantní: co organizace sama změní na existujícím modelu, může někdy změnit postavení dané organizace v celém rámci. Model, který je nakoupen beze změny, spadá do obrázku jinak než model, který je finetunován na vlastních datech nebo zabudován do vlastního procesu. Tato hranice — kdy úprava přináší změnu role — je popsána na stránce o tom, co se změní, pokud organizace sama upraví model.
Protože zařazení závisí na těchto faktorech, není rozsah pevnou vlastností nástroje, ale výsledkem, který se může měnit. Chatbot, který začal jako interní pomůcka pro psaní, se může, jakmile začne odpovídat i na dotazy klientů vedoucí k rozhodnutí, dostat do jiné části spektra. Model, který byl zakoupen jako hotový produkt, může po úpravě na vlastních datech přinést organizaci jinou roli. Aplikace, která dnes platí za nízkorizikovou, může zítra vážit více, protože se změnil kontext, v němž se nasazuje — jiný tým, jiné rozhodnutí, jiná skupina lidí, kterou výsledek zasahuje.
Toto je přesně důvod, proč jednorázové zařazení nestačí. Klasifikace zaznamenaná v okamžiku zavedení nic nevypovídá o tom, co nástroj dělá o rok později. Co by dnes měl spadat do rozsahu a co lze naplánovat na později, je proto samo o sobě otázkou, která závisí na aktuální situaci — je rozpracováno na stránce o pořadí mezi tím, co si vyžaduje pozornost nyní, a tím, co může následovat později.
Zařazení do rozsahu, nebo mimo něj komplikuje praktický problém: úřední seznam zakoupených nebo schválených nástrojů není totéž jako seznam nástrojů, které se skutečně používají. Týmy začínají využívat funkce AI, aniž by to prošlo procesem schvalování — nikoli ze zlé vůle, ale protože je to snadno dostupné a řeší to problém. Tato stínová AI je přesně ta část, která zařazení do rozsahu, nebo mimo něj znemožňuje, dokud nikdo neví, že daná aplikace existuje.
Kdo chce tento obraz doplnit, musí se zeptat — a to tak, aby otázka nepůsobila jako skrytá výtka. Jakmile zaměstnanec začne tušit, že upřímná odpověď povede k postihu, odpověď zůstane nevyřčená a nástroj zůstane pod povrchem. Inventarizace postavená na postihu proto z definice přináší nekompletní obraz — a nekompletní obraz dělá jakékoli zařazení do rozsahu předběžným.
Protože se rozsah může posouvat, je zaznamenání zařazení přinejmenším stejně důležité jako zařazení samo. Kdo rozhodl, že aplikace spadá mimo rozsah, na základě jaké informace a v jakém okamžiku — takové otázky se stávají nezodpověditelnými, jakmile záznam chybí. Jak organizace tento typ rozhodnutí uspořádá tak, aby bylo dohledatelné a sledovatelné, je popsáno na stránce o seznamu rozhodnutí, který zpětně dokládá rozhodnutí o dohledu, a jak se toto zařazení srozumitelně promítá do dokumentu, který zaměstnanci skutečně používají, na stránce o zásadách pro AI, které navazují na to, co lidé skutečně dělají.
Otázka zařazení — co spadá do rozsahu a co ne — se týká rizika a odpovědnosti, ne toho, co daná aplikace znamená pro samotnou práci. Tato druhá otázka, co konkrétní úkol může přenechat AI, je samostatný výpočet. Pracovní scan FTE TO AI vypočítá pro každý úkol, jakou část práce lze převzít, nezávisle na otázce, jak se tato aplikace zařadí v rámci klasifikace governance.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.