Klausimas, ar AI sprendimas jūsų organizacijoje priskiriamas didelės rizikos kategorijai, nėra klausimas, į kurį atsakote vieną kartą ir tada pažymite kaip atliktą. Tai yra rezultatas, kurį lemia keletas veiksnių, kurie kartu nustato, kiek toks sprendimas yra svarbus. Pasikeičia vienas iš tų veiksnių — gali pasikeisti ir priskyrimas. Todėl rizikos klasifikavimas yra mažiau formos užpildymo ir daugiau nuolatinio stebėjimo reikalas.
Šiame puslapyje aprašomas mechanizmas, kuriuo pagrįstas šis priskyrimas: nuo ko jis priklauso ir kas nutinka, kai situacija pasikeičia. Aktualūs teisiniai apibrėžimai ir ribos yra pateikti kitur; čia kalbama apie tai, ką jūsų organizacija turi galėti pamatyti ir įrodyti.
Keletas veiksnių struktūriškai lemia, ar sprendimas yra svarus.
Pirmasis veiksnys yra sritis, kurioje sprendimas naudojamas. Kai kurios sritys — pavyzdžiui, sprendimai, susiję su žmonėmis, jų galimybėmis ar teisėmis — yra svarbesnės nei sprendimai, kurie yra tik vidiniai ir pagalbiniai. Tai, ką sprendimas konkrečiai daro tos srities viduje, taip pat turi reikšmės: sistema, kuri pataria, skiriasi nuo sistemos, kuri automatiškai priima sprendimus.
Antrasis veiksnys yra vaidmuo, kurį jūsų organizacija atlieka sistemos atžvilgiu. Ar jūs ją kuriate pati, ar pirkote, ar naudojatės paslauga, kurioje yra integruotas AI, nors jo kaip tokio nepirkote? Vaidmuo, kurį atliekate — tiekėjas ar naudotojas — iš dalies nustato, kokios pareigos jums priklauso ir kokia dalis atsakomybės išlieka tiekėjui.
Trečiasis veiksnys yra tai, kas nutinka su modeliu po pirmojo įdiegimo. Sistema, kuri naudojama nepakitusi, tokia, kokia buvo pateikta, yra kitokia situacija nei sistema, kurią jūs derinate (finetune), pertvarkote ar leidžiate mokytis iš savų duomenų. Kas pasikeičia, kai patys pritaikote modelį — tai klausimas, į kurį reikia atsakyti atskirai, nes pritaikymas gali pakeisti sistemos kategoriją.
Ketvirtasis veiksnys yra apimtis: kiek žmonių yra paveikiami, kokiu dažnumu ir kiek grįžtama klaida. Sprendimas, naudojamas retkarčiais mažoje komandoje, skiriasi nuo sprendimo, kuris kasdien įtakoja sprendimus tūkstančiams klientų.
Šie veiksniai nėra statiški. Sprendimas, kuris šiandien priskiriamas ribotos rizikos kategorijai, rytoj gali jai nebepriklausyti — ne todėl, kad pasikeitė taisyklės, o todėl, kad pasikeitė patis sprendimas. Bandomasis projektas, kuris išsiplečia į visą organizaciją, vidinis pagalbinis įrankis, kuris pradeda paveikti kliento procesą, modelis, kuris papildomai apmokomas naujais duomenimis: kiekvienas iš šių žingsnių gali pakeisti priskyrimą.
Tai reiškia, kad klasifikavimas nėra vienkartinis veiksmas. Tai klausimas, kurį reikia užduoti iš naujo kaskart, kai kas nors pasikeičia tame, ką sistema daro, ką ji paveikia arba kas ją valdo. Valdymo struktūra, kuri to nestebi, atsilieka nuo praktikos.
Ne kiekvienas AI sprendimas turi pereiti šį visą procesą. Dalis to, kas veikia organizacijoje, nepatenka į rizikos klasifikavimo apimtį — pavyzdžiui, todėl, kad tai neįtakoja sprendimų dėl žmonių, arba todėl, kad tai atlieka tik pagalbinę, nesprendžiamąją funkciją. Tiksli ta riba ir kokie sprendimai nepatenka į apimtį priklauso nuo tų pačių veiksnių, kurie aprašyti aukščiau: sritis, vaidmuo, pritaikymas ir apimtis. Tai nėra atskiras sąrašas, o tas pats vertinimas iš kitos pusės.
Priskyrimas pats savaime nekeičia nieko. Jis tik nustato, kokie tolesni žingsniai reikalingi ir su kokiu skubumu. Kai kurie veiksmai reikalingi iš karto, kiti gali būti suplanuoti — ir kas turi būti padaryta dabar, ir kas gali būti suplanuota vėlgi priklauso nuo to, kiek svarus sprendimas yra ir kiek žmonių jis paveikia.
Siekiant, kad šie žingsniai būtų matomi ir atsekami, sprendimai dėl klasifikavimo ir tolesnių veiksmų turi būti kur nors užfiksuoti — ne kaip pavieniai užrašai, o kaip dalis priežiūros sprendimų sąrašo, kuris parodo, kas ką nusprendė ir kokia informacija pagrįsta. Be tokio fiksavimo priskyrimas yra tik momentinė nuotrauka, kurios niekas negalės atkurti.
Šis priskyrimo klausimas gali būti tinkamai atsakytas tik tada, kai žinoma, kas iš tikrųjų veikia. IT patvirtintų įrankių sąrašo tam nepakanka: didelė dalis naudojimo atsiranda už to sąrašo ribų, komandose, kurios pradėjo naudoti įrankį, apie tai niekur nepranešusios. Norint tokį naudojimą suvokti, reikia apie tai klausti — ir tai daryti be jokių sankcijų, kitaip atsakymo nesulauksite.
Kai tampa aišku, kokie sprendimai egzistuoja ir kiek jie svarūs, kyla tolesnis klausimas, kuris jau nebe apie riziką, o apie darbą: kokią dalį užduoties gali perimti AI sistema, ir kokia dalis lieka žmogaus darbas. Į tą klausimą atsako FTE TO AI darbo skanavimas (werkscan), kuris apskaičiuoja, kiek kiekvienos užduoties dalies gali perimti sistema — tai kitas požiūrio kampas nei rizikos klasifikavimas, bet jis remiasi tuo pačiu inventoriumi.
Šiame puslapyje aprašytas priskyrimo mechanizmas. Pati Responsible AI Scan yra kūrimo stadijoje; jei norite naudoti jos rezultatus, kai jie bus prieinami, galite užsiregistruoti į laukiančiųjų sąrašą.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.