Organizace si často myslí, že jejich role je pevně daná: jsme uživatel, dodavatel je poskytovatel, hotovo. Tento předpoklad často neplatí, nebo platí dnes a zítra už neplatí. Role, kterou má organizace ve vztahu k AI-systému, není pevnou vlastností organizace. Je to výsledek toho, co se se systémem děje: kdo ho vytváří, kdo ho upravuje, kdo ho uvádí na trh a pod jakým jménem. Změní-li se jeden z těchto faktorů, může se změnit i role, a tím i povinnosti, které s ní souvisí.
To znamená, že zařazení není okamžitým snímkem stavu. Role, která byla při nákupu správně stanovena, může být o rok později nesprávná, aniž by k tomu interně padlo jakékoli vědomé rozhodnutí.
Zařazení závisí na omezeném počtu faktorů, ale tyto faktory nejsou všechny v rukou strany, která systém používá. Relevantní je mimo jiné, zda je systém vyvinut vlastními silami nebo nakoupen, zda je nakoupený systém nasazen beze změn nebo upravován, a zda úprava zasahuje do rizikového profilu systému. Relevantní je také, pod jakým jménem systém vystupuje navenek: systém, který je dále prodáván nebo dále vyvíjen pod vlastní značkou, může s sebou nést jinou roli než provozování externího produktu beze změn. Pro přesnou hranici mezi těmito dvěma pozicemi je relevantní stránka o tom, co se změní, když organizace upraví nakoupený model sama, a pro základní otázku, která z obou hlavních rolí se uplatní, existuje stránka vysvětlující na čem přesně závisí volba mezi poskytovatelem a uživatelem.
Zařazení tedy není něco, co organizace jednou stanoví a poté archivuje. Je to klasifikace, kterou je třeba znovu posoudit, jakmile se změní podkladová fakta.
Změní-li se role, změní se i to, co se od organizace očekává. Strana, která je čistě uživatelem, má jiné povinnosti než strana, která je (spolu)odpovědná za vznik systému. To se netýká pouze administrativy. Týká se to i toho, kde v organizaci by měla odpovědnost za systém spočívat, kdo o ní podává zprávy a jaká úroveň dohledu je přiměřená.
Tento posun se promítá i do otázky, jak závažně musí být systém interně posuzován. Změna role může vést k tomu, že systém, který byl dříve považován za zvladatelný, musí být znovu posouzen z hlediska úrovně rizika — otázka, která je samostatně zpracována na stránce o tom, co vysoká úroveň rizika znamená pro organizaci, která systém používá nebo poskytuje. Naopak změna role může také vést k tomu, že systém spadá právě mimo rozsah určitých povinností, nebo se do něj právě dostává. Které aplikace přesně spadají mimo rozsah a které téměř ne, je vysvětleno na stránce o tom, které typy AI-aplikací spadají mimo rozsah povinností.
Faktory, které způsobují změnu role, se obvykle odehrávají na úrovni, ke které vedení, právní oddělení nebo risk management nemají automatický přehled. Tým, který doladí (finetune) nakoupený model na vlastních datech. Oddělení, které předává externí chatbotový produkt klientům pod vlastním názvem produktu. Integrace, která kombinuje model dodavatele s vlastními pravidly a tuto kombinaci následně nabízí externě. Žádný z těchto kroků automaticky neprochází centrálním registrem, a IT-seznam schválených nástrojů tento typ změny obvykle nezaznamenává, protože změna není rozpoznána jako „nový nákup", ale jako úprava něčeho, co již bylo schváleno.
To je důvod, proč se změny role často stávají viditelnými až tehdy, když se něco pokazí, nebo když je zvenčí vyžádáno vysvětlení. Otázka „jaká je naše role u tohoto systému" je poté zodpovězena se zpětnou platností, ve chvíli, kdy je prostor pro úpravu menší, než kdyby byla otázka položena dříve.
Protože se zařazení může posouvat, je rozlišení mezi tím, co vyžaduje pozornost právě nyní, a tím, co bude třeba znovu posoudit v budoucnu, relevantní pro plánování práce na governance. Ne vše, co změna role přináší, vyžaduje okamžitou akci; část je plánovatelná. Která část to je a která nemůže čekat, je zpracováno na stránce o tom, co je třeba řešit nyní a co lze naplánovat na později. Pro stručné shrnutí samotné otázky zařazení, včetně nejdůležitějších zlomových bodů, existuje stránka, která se hlouběji věnuje přesným okolnostem, za kterých se role mění.
Otázka, jakou roli má organizace ve vztahu k AI-systému, je blízká jiné otázce, která zřídka získává stejnou pozornost: jaká část skutečné práce v organizaci již je vykonávána AI, plánovaně bude vykonávána AI, nebo je již převzata, aniž by to kdokoli zaznamenal. Zatímco otázka role se týká odpovědnosti vůči systému, pracovní scan od FTE TO AI se týká rozdělení samotných úkolů: pro každý úkol se vypočítá, jaká část může být převzata AI, bez ohledu na to, jakou roli organizace při tom formálně zaujímá. Tyto dvě otázky se dotýkají, protože posun v rozdělení úkolů je často podnětem pro posun role.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.