Ľudský dohľad sa často zaznamenáva ako úloha: niekto, kto je zodpovedný, meno v registri, zaškrtnuté okienko. To je východiskový bod, nie samotný mechanizmus. Dohľad vzniká až vtedy, keď existuje okamih, v ktorom človek môže vidieť výstup AI aplikácie, môže ho pochopiť a môže ho upraviť predtým, než sa tento výstup niekam dostane. Bez tohto okamihu je meno pod klasifikáciou len formalitou.
Či dohľad v praxi funguje, závisí od viacerých vecí, ktoré sa samy od seba neskombinujú. Musí existovať niekto, kto má právomoc výstup zastaviť, nielen úlohu naň sa pozrieť. Musí existovať čas na pozretie sa, čo znamená, že proces nesmie byť nastavený tak, že výstup AI je už spracovaný predtým, než sa kontrola vôbec vykoná. A musí existovať dostatočné porozumenie tomu, čo aplikácia robí, aby bolo možné rozpoznať odchýlku. Kontrolór, ktorý nevie výstup posúdiť, dohľad nevykonáva, ani keď je úloha formálne pridelená.
Toto súvisí s tým, čo AI gramotnosť znamená pre vašich zamestnancov: dohľad bez pochopenia podkladovej aplikácie je dohľad len na papieri.
Štruktúra riadenia (governance) môže zaznamenať, kto je za čo zodpovedný, akú úroveň rizika má daná aplikácia a aké kroky s tým súvisia. Čo táto štruktúra nezaručuje, je to, že daná osoba výstup skutočne posúdi v momente, keď to má význam. To je organizačná skutočnosť, nie technická. Klasifikácia môže byť správna a dohľad môže byť aj tak prázdny, pretože osoba, ktorá je na papieri zodpovedná, nemá čas, prístup ani znalosti na to, aby výstup preverila.
Inventár a klasifikácia odhaľujú, kde je toto riziko najväčšie: pri aplikáciách s vyššou úrovňou rizika, alebo pri aplikáciách, ktoré sa dostali do organizácie mimo bežného IT procesu. Táto posledná skupina je často najzložitejšia, pretože kto chce organizovať dohľad nad niečím, čo nie je v evidencii, musí to najprv nájsť. Toto sa dotýka otázky, čo robiť so zamestnancami, ktorí používajú nástroj, ktorý nikto neschválil: dohľad nad tzv. shadow AI začína uznaním, že táto aplikácia existuje, nie sankciou za jej používanie.
Aplikácia, ktorá je dnes pod dohľadom, môže byť zajtra iná. Model sa aktualizuje, vstupné dáta sa posunú, alebo sa používanie v rámci organizácie rozrastie z jednoduchej úlohy na niečo s väčšou váhou. Dohľad, ktorý bol nastavený na situáciu spred roka, už nezodpovedá tomu, čo sa deje teraz. Toto je jeden z dôvodov, prečo klasifikácia nie je jednorazová záležitosť; ako často sa musí opakovať, závisí od úrovne rizika a miery, do akej sa aplikácia mení, ako je rozpracované v texte ako často treba znova klasifikovať.
Toto tiež znamená, že register má hodnotu len tak dlho, ako dlho sa udržiava. Inventár, ktorý bol vytvorený pri prvom skenovaní a potom sa už neaktualizuje, poskytuje čoraz nepresnejší obraz o tom, kde je dohľad potrebný. Otázka, ako organizácia udržuje tento register aktuálny, je nezávislá od otázky, ako bol register zostavený, a zaslúži si samostatnú pozornosť: pozrite ako udržiavať AI register aktuálny.
Vedenie, ktoré má preukázať, že existuje dohľad nad používaním AI, nemôže vystačiť so zoznamom úloh. Preukázateľnosť si vyžaduje stopu: kto sa pozrel na aký výstup, v akom okamihu, s akou právomocou na úpravu. Táto stopa je relevantná aj v momente, keď sa niečo pokazí. Otázka, kto je zodpovedný, keď AI aplikácia urobí chybu, sa nezodpovedá len klasifikáciou, ale preukázateľným dohľadom, ktorý po nej nasledoval. Tieto dve veci sa ľahko zamieňajú, hoci ich rozlíšenie je relevantné; pozrite kto je zodpovedný, keď AI aplikácia urobí chybu.
Dohľad sa tiež týka toho, čo sa do aplikácie vkladá. Zamestnanec, ktorý vloží firemné dáta do bezplatného chatovacieho okna, umiestňuje tieto dáta mimo akéhokoľvek dohľadu, ktorý organizácia nastavila, bez ohľadu na to, ako dobre je organizovaný dohľad nad schválenými aplikáciami. Toto je samostatná oblasť záujmu v rámci širšej otázky, rozpracovaná v texte čo robiť s firemnými dátami v bezplatnom chatovacom okne.
Táto stránka popisuje, ako dohľad funguje ako mechanizmus: kto sa pozerá, kedy, s akou právomocou a ako sa to dá preukázať. Obsahové normy, ktoré určujú, kedy je dohľad povinný, aký strohý musí byť podľa kategórie rizika a v akých lehotách musí byť zavedený, sa tu neuvádzajú. Tento obsah predpisov sa mení a je aktuálne udržiavaný inde.
Organizovať dohľad nad úlohou má zmysel len vtedy, ak je jasné, čo táto úloha presne zahŕňa a akú jej časť vykonáva AI aplikácia. To je iná otázka než to, akú úlohu alebo úroveň rizika má aplikácia; ide o samotnú úlohu, rozdelenú na kroky, ktoré môže AI aplikácia prevziať, a kroky, ktoré na to nie sú vhodné. Pracovný skener FTE TO AI toto vypočíta pre každú úlohu, takže je vidieť, akú časť práce je možné prevziať a akú časť musí zostať v rámci ľudského dohľadu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.