Kennisbank

Naléhavé nebo plánovatelné: na čem závisí zařazení

Otázka za otázkou

Inventarizace používání AI obvykle vede k seznamu, který je příliš dlouhý na to, aby se s ním dalo pohnout v jednom kroku. Otázka, která následuje, není „co musíme udělat“, ale „co musíme udělat nejdřív“. Jde o otázku zařazení a odpověď nezávisí na tom, kolik systémů existuje, ale na tom, co tyto systémy dělají a pro koho.

Na čem závisí naléhavost

Prvním faktorem je úroveň rizika samotné aplikace. Systém, který připravuje rozhodnutí o lidech — přijímání zaměstnanců, poskytování úvěrů, přidělování péče nebo dávek — vyžaduje jiný přístup než nástroj, který přepisuje text pro interní použití. Co vysoká úroveň rizika znamená pro vaši organizaci se tedy liší podle aplikace, a tyto rozdíly určují, které systémy jsou na řadě jako první.

Druhým faktorem je role organizace u daného systému. Kdo model kupuje a používá ho beze změn, má jiné povinnosti než ten, kdo si model nechá trénovat na vlastních datech nebo výsledek strukturálně upravuje. Zda jste poskytovatelem nebo uživatelem AI aplikace, určuje nejen jaké povinnosti platí, ale i to, kolik času je potřeba k jejich splnění — poskytovatel má obvykle víc práce s přípravou než uživatel.

Třetím faktorem je, zda je systém již v provozu, nebo se ještě pořizuje. Riziko, které již běží — se skutečnými uživateli, skutečnými rozhodnutími, skutečnými údaji — vyžaduje jiné pořadí než riziko, které je ještě ve fázi smluvního jednání a kde lze dohody ještě zaznamenat, než systém spustíte.

Co se změní, když se situace změní

Toto zařazení není jednorázový snímek. Systém, který je dnes nízkorizikový, nemusí takový zůstat po úpravě. Co znamená, když si model sami upravíte — dolaďování, nová datová sada, jiná aplikace téže základní technologie — závisí na tom, co přesně se změní, ale zařazení provedené dříve tím automaticky neplatí dál.

Totéž platí pro změnu role. Organizace, která přebírá hotový model a poté ho výrazně upraví, se tím může posunout z uživatele na poskytovatele. Kdy se tato role změní není vždy okamžik samotné úpravy, ale okamžik, kdy tato úprava změní charakter systému. I to je otázka zařazení a i ta vyžaduje přehodnocení, jakmile se situace změní — nikoli jednorázovou kontrolu, která pak zůstane platit.

A systém, který se ještě pořizuje, se v okamžiku spuštění přesouvá z plánovatelného na naléhavý. Zařazení, které platilo pro fázi smluvního jednání, neplatí pro fázi používání.

Co to znamená pro pořadí

Praktickým důsledkem je, že inventarizace nevede jednou provždy k seznamu priorit, ale k struktuře, kterou je třeba opakovaně procházet. Systémy s vysokou úrovní rizika a aktivní rolí poskytovatele vyžadují pozornost hned. Systémy s nízkou úrovní rizika, které ještě nejsou v provozu, lze naplánovat — ale plán musí obsahovat okamžik, kdy se situace znovu posoudí, protože úpravy, změna role nebo zahájení používání mohou zařazení obrátit.

To vyžaduje pevné místo, kde se rozhodnutí o tomto zařazení zaznamenávají: který systém byl označen jako naléhavý, na základě jakého faktoru a kdy bylo toto posouzení provedeno naposledy. Seznam rozhodnutí o dohledu je forma, ve které se toto zařazení stává prokazatelným — nikoli jako dodatečná administrativa, ale jako jediný důkaz, že zařazení není náhodné, nýbrž výsledkem opakovatelného procesu.

Skutečná regulace — jaké lhůty platí, jaké povinnosti podle rizikové třídy patří k jakému datu — je popsána jinde. Tato stránka popisuje mechanismus, kterým odlišujete naléhavé od plánovatelného; aktuální znění zákona a lhůty zde nenajdete.

Od zařazení k obsahu

Zařazení na naléhavé a plánovatelné vypovídá o pořadí pozornosti, nikoli o obsahu samotné práce. Jakmile je jasné, která AI aplikace má přednost, zůstává otevřená otázka, co tato aplikace přesně dělá s prací, která ji obklopuje: která část úkolu probíhá automaticky, která část vyžaduje kontrolu a která část zůstává u člověka. Na tuto otázku odpovídá pracovní skener FTE TO AI, který u každého úkolu vypočítá, jakou část práce lze převést na AI — jako doplnění zařazení, které je provedeno zde, se zaměřením na samotný obsah práce.