Předtím, než úroveň rizika, povinnost nebo opatření v oblasti řízení získají smysl, musí být jasné, jakou roli vaše organizace hraje. Kdo uvádí systém AI na trh, má jiné povinnosti než ten, kdo nasazuje systém, který postavil někdo jiný. Termín, který se pro to používá, je známý: poskytovatel oproti uživateli. Samotné zařazení však není pevně dané v organizačním schématu. Závisí na tom, co organizace s konkrétním systémem dělá, a to se může lišit podle systému, oddělení i okamžiku.
Klíčovou otázkou není, kdo systém koupil nebo instaloval, ale kdo jej uvedl na trh nebo jej zpřístupňuje pod vlastním jménem. Organizace, která software nakupuje a používá tak, jak byl dodán, je zpravidla uživatelem. Organizace, která systém vyvíjí, nechává vyvinout pod svým jménem, nebo existující systém upraví tak, že se z funkčního hlediska stane něčím jiným, se tím může dostat do role poskytovatele. Právě to je často bod, na kterém se organizace přepočítají: doladění modelu (finetuning), vybudování vlastní vrstvy nad externím systémem nebo natrénování chatbota na vlastních datech může posunout roli, aniž by to kdokoli vnímal jako vědomé rozhodnutí. Co přesně se počítá jako úprava, která roli změní, je popsáno na stránce co se změní, když si model upravíte sami.
Většina organizací není výhradně poskytovatelem ani výhradně uživatelem. Banka, která nasazuje externí jazykový model pro zákaznický servis, je v tomto ohledu uživatelem, ale pokud tatáž banka zpřístupní interně vyvinutý rizikový model jinému oddělení nebo klientovi, vzniká pro tento systém role poskytovatele. To znamená, že zařazení musí být provedeno pro každou aplikaci samostatně, nikoli jednou pro celou organizaci. Inventura, která u každého systému zaznamenává, kdo jej vytvořil, kdo jej upravil a kdo jej používá, je proto jediný způsob, jak na tuto otázku odpovědět systematicky, a ne nahodile.
Role není pevnou vlastností organizace, ale statusem, který se může měnit. Dodavatel může svůj systém upravit způsobem, který ovlivní rizikový profil. Interní vývojář může interní nástroj dále rozvinout do něčeho, co se nabízí i mimo organizaci. Systém, který kdysi přišel jako jednoduchý nástroj, může po aktualizaci vykonávat úlohy, které jej zařadí do jiné rizikové kategorie. V jakých okamžicích tento posun konkrétně nastává a co to znamená pro to, kdo je pak odpovědný, je vysvětleno na stránce kdy se vaše role změní. Pro organizace, které chtějí pochopit, co posun směrem k vyšší úrovni rizika v praxi přináší, nabízí další rozpracování co znamená vysoká úroveň rizika pro vaši organizaci.
Ne každá aplikace označovaná jako umělá inteligence spadá do rámce, pro který je rozdělení rolí relevantní. Některé systémy jsou mimo rozsah, pro který bylo toto zařazení vytvořeno, a pro organizaci je stejně důležité vědět, co je mimo tento rozsah, jako vědět, co do něj patří. Jinak se čas vynakládá na klasifikaci něčeho, co klasifikaci nepotřebovalo, nebo se něco přehlédne, protože to vypadalo příliš malé. Které aplikace tento rámec nespadají a proč, je popsáno na stránce které aplikace nespadají do rozsahu.
Stanovení role je prvním krokem, nikoli výsledkem procesu řízení. Po zařazení následuje otázka, co je pro každou roli a každou úroveň rizika ve skutečnosti třeba udělat, a tato otázka se dělí do dvou kategorií: co vyžaduje pozornost okamžitě a co lze naplánovat na delší období. Tyto dvě kategorie se často zaměňují, což má za následek, že naléhavé záležitosti zůstávají neřešeny, zatímco čas se věnuje něčemu, co ještě není naléhavé. Přehled toho, co v tomto ohledu má prioritu, najdete na stránce co je třeba udělat nyní a co lze naplánovat. Kdo chce otázku rozdělení rolí dále prohloubit, s přesnými kritérii, která určují hranici mezi poskytovatelem a uživatelem, najde toto rozpracování na stránce jste poskytovatel nebo uživatel: na čem to závisí.
Toto zařazení má smysl pouze tehdy, pokud se použije na to, co v organizaci skutečně běží, ne na to, co je uvedeno na schváleném seznamu. Systémy zavedené bez svolení se počítají stejně a role, která k nim náleží, musí být stanovena stejně důkladně. To vyžaduje inventuru, která přesahuje rámec IT administrace.
Jakmile je jasné, jakou roli organizace v rámci jednotlivých systémů hraje, pozornost se přirozeně přesune k jiné otázce: co tyto systémy vlastně dělají a jakou část práce převezmou. Tato otázka stojí mimo scan řízení, ale přímo na něj navazuje. Pracovní scan FTE TO AI vypočítá pro každou úlohu, jakou část práce lze převést na AI, a poskytuje tak obraz dopadu systému vedle obrazu povinností, které k němu náleží.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.