Otázka, ktoré aplikácie spadajú mimo rozsahu, znie ako žiadosť o zoznam. Nie je to tak. Či niečo spadá do rozsahu alebo mimo neho, je zaradenie, ktoré závisí od toho, čo aplikácia robí, v akom kontexte a pre koho. Rovnaká technológia môže v jednej aplikácii zostať bez povšimnutia a v inej sa stať predmetom plnej pozornosti. Pevný zoznam vylúčených aplikácií preto neexistuje — existuje však niekoľko faktorov, ktoré zaradenie určujú.
Prvým faktorom je funkcia aplikácie: o čom systém rozhoduje alebo v čom radí, a pre koho to má dôsledky. Nástroj, ktorý prepisuje interný text, je iný ako nástroj, ktorý spolurozhoduje o žiadosti, prihláške na zamestnanie alebo poistnej udalosti. Druhým faktorom je úroveň rizika spojená s touto funkciou: čím väčšie sú dôsledky pre ľudí, tým skôr sa aplikácia posúva k závažnejšej časti spektra. Tretím faktorom je úloha samotnej organizácie: kto systém len používa, je posudzovaný inak ako ten, kto ho upravuje, dotrénuje alebo zostavuje z komponentov iných dodávateľov. Čo presne toto rozdelenie úloh znamená a kedy sa mení, je popísané na stránkach o rozdiele medzi poskytovateľom a používateľom AI systému a o okamihu, kedy sa úloha používateľa mení na inú zodpovednosť.
Štvrtým faktorom je technický charakter, ktorý má však právny význam: to, čo organizácia sama zmení na existujúcom modeli, niekedy zmení postavenie danej organizácie v celom systéme. Model, ktorý sa nakupuje nezmenený, zapadá do celkového obrazu inak ako model, ktorý je doladený na vlastných dátach alebo zabudovaný do vlastného procesu. Táto hranica — kedy úprava prináša so sebou zmenu úlohy — je rozobraná na stránke o tom, čo sa zmení, keď je model sám upravený.
Pretože zaradenie závisí od týchto faktorov, rozsah nie je fixná vlastnosť nástroja, ale výsledok, ktorý sa môže zmeniť. Chatbot, ktorý začal ako interná pomôcka na písanie, sa môže presunúť do inej časti spektra, hneď ako začne odpovedať aj na otázky klientov, ktoré vedú k rozhodnutiu. Model, ktorý bol nakúpený ako hotový produkt, môže po úprave na vlastných dátach priniesť pre organizáciu inú úlohu. Aplikácia, ktorá dnes platí za nízkorizikovú, môže zajtra vážiť viac, pretože sa zmenil kontext, v ktorom sa nasadzuje — iný tím, iné rozhodnutie, iná skupina ľudí, ktorých výsledok ovplyvňuje.
Presne preto jednorazové zaradenie nepostačuje. Klasifikácia, ktorá bola stanovená v čase zavedenia, nič nevraví o tom, čo nástroj robí o rok neskôr. To, čo dnes musí spadať do rozsahu a čo sa môže naplánovať na neskôr, je teda samo otázkou, ktorá závisí od aktuálnej situácie — rozpracovanou na stránke o poradí medzi tým, čo si vyžaduje pozornosť teraz, a tým, čo môže nasledovať neskôr.
Zaradenie do rozsahu alebo mimo neho komplikuje praktický problém: oficiálny zoznam nakúpených alebo schválených nástrojov nie je totožný so zoznamom nástrojov, ktoré sa skutočne používajú. Tímy začínajú používať AI funkcionalitu bez toho, aby to prešlo cez proces schvaľovania — nie z neochoty, ale preto, že je ľahko dostupná a rieši problém. Táto tzv. shadow AI je presne tá časť, ktorá znemožňuje zaradenie do rozsahu alebo mimo neho, pokým nikto nevie, že aplikácia existuje.
Kto si chce tento obraz doplniť, musí sa pýtať — a to tak, aby otázka nepôsobila ako skrytá výčitka. Hneď ako zamestnanec tuší, že po pravdivej odpovedi bude nasledovať sankcia, odpoveď zostane nevyslovená a nástroj zostane skrytý. Súpis, ktorý je postavený na vyvodzovaní zodpovednosti, tak z princípu poskytuje neúplný obraz — a neúplný obraz robí každé zaradenie do rozsahu iba predbežným.
Pretože rozsah sa môže posúvať, zaznamenanie zaradenia je minimálne rovnako dôležité ako samo zaradenie. Kto rozhodol, že aplikácia spadá mimo rozsahu, na základe akých informácií a v akom okamihu — takéto otázky sa stanú nezodpovedateľnými, ak chýba záznam. Ako organizácia dokáže tento typ rozhodnutia usporiadať a spätne vysledovať, je uvedené na stránke o zozname rozhodnutí, ktorý robí rozhodnutia o dohľade spätne vysledovateľnými, a ako sa toto zaradenie rozpoznateľne prejaví v dokumente, ktorý zamestnanci skutočne používajú, na stránke o AI politike, ktorá je v súlade s tým, čo ľudia skutočne robia.
Otázka zaradenia — čo spadá do rozsahu a čo nie — sa týka rizika a zodpovednosti, nie toho, čo aplikácia znamená pre samotnú prácu. Táto druhá otázka, čo presne môže úloha prenechať AI, je samostatný výpočet. Pracovný scan FTE TO AI vypočíta pre každú úlohu, akú časť práce je možné prevziať, nezávisle od otázky, ako sa daná aplikácia zaradí do governance klasifikácie.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.