Lidský dohled se často zaznamenává jako role: někdo, kdo je odpovědný, jméno v registru, zaškrtnuté okénko. To je výchozí bod, nikoli samotný mechanismus. Dohled vzniká až tehdy, když existuje okamžik, kdy člověk může výsledek AI aplikace vidět, pochopit a upravit, než tento výsledek někam doputuje. Bez tohoto okamžiku je jméno pod klasifikací pouhou formalitou.
Zda dohled v praxi funguje, závisí na řadě věcí, které se sami od sebe nesejdou. Musí existovat někdo, kdo má pravomoc výsledek zastavit, nikoli jen úkol se na něj podívat. Musí existovat čas na posouzení, což znamená, že proces nesmí být uspořádán tak, že výsledek AI je již zpracován dřív, než k kontrole dojde. A musí existovat dostatečné pochopení toho, co aplikace dělá, aby bylo možné rozpoznat odchylku. Kontrolor, který výsledek nedokáže posoudit, dohled nevykonává, a to i když je role formálně přidělena.
Toto souvisí s tím, co znamená znalost AI pro vaše zaměstnance: dohled bez porozumění dané aplikaci je dohled jen na papíře.
Struktura řízení může stanovit, kdo je za co odpovědný, jakou úroveň rizika daná aplikace má a jaké kroky s tím souvisejí. Co tato struktura nezajišťuje, je záruka, že daná osoba výsledek skutečně posoudí ve chvíli, kdy na tom záleží. To je organizační skutečnost, nikoli technická. Klasifikace může být správná a dohled může přesto zůstat prázdný, protože osoba, která je na papíře odpovědná, nemá čas, přístup ani znalosti k posouzení výsledku.
Inventura a klasifikace odhalují, kde je toto riziko největší: u aplikací s vyšší úrovní rizika, nebo u aplikací, které se dostaly do organizace mimo standardní IT proces. Tato druhá skupina je často nejobtížnější, protože kdo chce zorganizovat dohled nad něčím, co není v evidenci, musí to nejprve najít. To se dotýká otázky co dělat se zaměstnanci, kteří používají nástroj, který nikdo neschválil: dohled nad stínovou AI začíná uznáním, že tato aplikace existuje, nikoli sankcí za její používání.
Aplikace, která je dnes pod dohledem, může být zítra jiná. Model se aktualizuje, vstupní data se posunou, nebo se využití v rámci organizace rozroste z jednoduchého úkolu na něco s větší váhou. Dohled, který byl uspořádán podle situace před rokem, již neodpovídá tomu, co se děje nyní. To je jeden z důvodů, proč klasifikace není jednorázová záležitost; jak často je třeba ji opakovat, závisí na úrovni rizika a míře, do jaké se aplikace mění, jak je rozvedeno v jak často je třeba znovu klasifikovat.
Toto také znamená, že registr má hodnotu jen tehdy, pokud je udržován. Inventura, která byla vytvořena při první kontrole a poté už nebyla aktualizována, poskytuje stále méně přesný obraz toho, kde je dohled potřebný. Otázka, jak organizace udržuje tento registr aktuální, je oddělená od otázky, jak byl registr vytvořen, a zaslouží si vlastní pozornost: viz jak udržet registr AI aktuální.
Představenstvo, které je vyzváno prokázat, že existuje dohled nad používáním AI, se nemůže spokojit se seznamem rolí. Prokazatelnost vyžaduje stopu: kdo se podíval na jaký výsledek, v jakém okamžiku, s jakou pravomocí jej upravit. Tato stopa je relevantní i v okamžiku, kdy se něco pokazí. Otázka, kdo je odpovědný, když AI aplikace udělá chybu, není zodpovězena samotnou klasifikací, ale prokazatelným dohledem, který na ni navázal. Tyto dvě věci se snadno zamění, přestože jejich rozlišení je relevantní; viz kdo je odpovědný, když AI aplikace udělá chybu.
Dohled se také dotýká toho, co je do aplikace vkládáno. Zaměstnanec, který vloží firemní data do bezplatného chatovacího okna, umístí tato data mimo jakýkoli dohled, který organizace zavedla, bez ohledu na to, jak dobře je organizován dohled nad schválenými aplikacemi. Toto je samostatná oblast zájmu v rámci širší problematiky, rozvedená v co dělat s firemními daty v bezplatném chatovacím okně.
Tato stránka popisuje, jak dohled funguje jako mechanismus: kdo se dívá, kdy, s jakou pravomocí, a jak se to prokazuje. Obsahové normy, které určují, kdy je dohled povinný, jak striktní musí být podle kategorie rizika a v jakých lhůtách musí být zaveden, tady uvedeny nejsou. Tento obsah předpisů se měnní a je udržován aktuální jinde.
Organizovat dohled nad úkolem má smysl jen tehdy, pokud je jasné, co tento úkol přesně obsahuje a jaká jeho část je vykonávána AI aplikací. To je jiná otázka než to, jakou roli nebo úroveň rizika má daná aplikace; jde o samotný úkol, rozdělený na kroky, které AI aplikace může převzít, a kroky, které pro to nepřipadají v úvahu. Pracovní analýza FTE TO AI toto počítá pro každý úkol, takže je zřejmé, jakou část práce lze převzít a jaká část musí zůstat v dosahu lidského dohledu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.