Otázka, či AI aplikácia vo vašej organizácii predstavuje vysoké riziko, nie je otázka, ktorú zodpovedáte raz a potom odškrtnete. Je to výsledok viacerých faktorov, ktoré spolu určujú, akú váhu má daná aplikácia. Zmení sa jeden z týchto faktorov, môže sa zmeniť aj samotné zaradenie. To robí z klasifikácie rizika menej otázku vyplnenia formulára a viac otázku priebežného sledovania.
Táto stránka popisuje mechanizmus, ktorý stojí za týmto zaradením: od čoho závisí a čo sa stane, keď sa situácia zmení. Aktuálne zákonné definície a prahové hodnoty sú uvedené inde; tu ide o to, čo musíte vedieť sledovať a preukázať vo vlastnej organizácii.
Pri otázke, či aplikácia predstavuje závažné riziko, hrá štrukturálne rolu viacero faktorov.
Prvým je oblasť, v ktorej sa aplikácia nasadzuje. Niektoré oblasti — napríklad rozhodnutia o ľuďoch, ich príležitostiach alebo právach — majú väčšiu váhu než aplikácie, ktoré sú výlučne interné a podporné. To, čo aplikácia v rámci danej oblasti presne robí, tu tiež hrá rolu: systém, ktorý poskytuje odporúčania, má inú váhu než systém, ktorý automaticky rozhoduje.
Druhým faktorom je rola, ktorú vaša organizácia zohráva vo vzťahu k systému. Vyvíjate ho sami, kupujete ho, alebo používate službu, v ktorej je AI zabudovaná bez toho, aby ste to ako takú nakúpili? Rola, ktorú zastávate — poskytovateľ alebo používateľ — spoluurčuje, aké povinnosti máte a aká časť zodpovednosti zostáva na dodávateľovi.
Tretím faktorom je to, čo sa s modelom deje po prvom nasadení. Systém, ktorý sa používa nezmenený tak, ako bol dodaný, je iná situácia než systém, ktorý dolaďujete, prekonfigurujete alebo ktorý necháte učiť sa na vlastných dátach. Čo sa zmení, keď model sami upravíte a od čoho to závisí je preto otázka, ktorú treba zodpovedať samostatne — úprava môže spôsobiť, že systém prejde do inej kategórie.
Štvrtým faktorom je rozsah: koľkých ľudí sa to týka, s akou frekvenciou a nakoľko je chyba vratná. Aplikácia, ktorá sa používa príležitostne v malom tíme, má inú váhu než aplikácia, ktorá denne ovplyvňuje rozhodnutia pre tisíce klientov.
Tieto faktory nie sú statické. Aplikácia, ktorá dnes predstavuje obmedzené riziko, ním zajtra už nemusí byť — nie preto, že sa zmenili pravidlá, ale preto, že sa zmenila samotná aplikácia. Pilotný projekt, ktorý sa rozšíri na celú organizáciu, interný nástroj, ktorý začne ovplyvňovať proces týkajúci sa klientov, model, ktorý sa dotrénuje na nových dátach: každý z týchto krokov môže zaradenie zmeniť.
To znamená, že klasifikácia nie je jednorazová záležitosť. Je to otázka, ktorú treba znovu zodpovedať vždy, keď sa niečo zmení na tom, čo systém robí, kohočo sa dotýka, alebo kto ho riadi. Štruktúra riadenia, ktorá to nesleduje, zostáva v praxi pozadu.
Nie každá AI aplikácia musí prejsť celým týmto procesom. Časť toho, čo v organizácii bežne funguje, spadá mimo rozsahu klasifikácie rizika — napríklad preto, že sa nedotýka rozhodnutí o ľuďoch, alebo preto, že má výlučne podpornú, nie rozhodujúcu funkciu. Kde presne táto hranica leží a ktoré aplikácie spadajú mimo rozsahu a od čoho to závisí závisí od tých istých faktorov, ktoré sú popísané vyššie: oblasť, rola, úprava a rozsah. Nejde teda o samostatný zoznam, ale o druhú stranu toho istého posúdenia.
Zaradenie samo osebe nič nemení. Určuje len to, aké následné kroky sú na programe a s akou naliehavosťou. Niektoré opatrenia sú potrebné okamžite, iné sa môžu naplánovať — a čo treba urobiť teraz a čo sa môže naplánovať a od čoho to závisí súvisí opäť s tým, akú váhu má daná aplikácia a koľkých ľudí sa dotýka.
Aby boli tieto kroky viditeľné a spätne dohľadateľné, rozhodnutia o klasifikácii a nadväzujúcich opatreniach sa musia niekde zaznamenať — nie ako samostatné poznámky, ale ako súčasť zoznamu rozhodnutí v rámci ľudského dohľadu, ktorý ukazuje, kto čo rozhodol a na základe akých informácií. Bez tohto zápisu je zaradenie len momentkou, ktorú už nikto nedokáže spätne rekonštruovať.
Táto otázka zaradenia sa dá dobre zodpovedať len vtedy, ak je známe, čo skutočne v organizácii funguje. Zoznam IT oddelenia so schválenými nástrojmi na to nestačí: veľká časť používania vzniká mimo tohto zoznamu, v tímoch, ktoré začali nástroj používať bez toho, aby to niekde nahlásili. Kto chce toto používanie zmapovať, musí sa naň spýtať — a urobiť to len tak, aby s tým nebola spojená žiadna sankcia, inak odpoveď nedostane.
Hneď ako je jasné, aké aplikácie existujú a akú majú váhu, vzniká nadväzujúca otázka, ktorá už nejde o riziko, ale o prácu: akú časť úlohy môže prevziať AI systém a aká časť zostáva prácou pre ľudí. Na túto otázku odpovedá pracovný skener FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce je možné prevziať — iný uhol pohľadu než klasifikácia rizika, ale taký, ktorý vychádza z toho istého inventára.
Táto stránka popisuje mechanizmus, ktorý stojí za zaradením. Samotný Responsible AI Scan sa práve vyvíja; kto chce jeho výsledky použiť hneď, ako budú dostupné, sa môže prihlásiť na čakaciu listinu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.