Vprašanje, ali neka uporaba AI znotraj vaše organizacije velja za visoko tvegano, ni vprašanje, na katero odgovorite enkrat in ga potem odkljukate. Gre za izid več dejavnikov, ki skupaj določajo, kako težko tehta neka uporaba. Če se eden od teh dejavnikov spremeni, se lahko spremeni tudi razvrstitev. Zato je razvrščanje tveganja manj vprašanje izpolnjevanja obrazcev in bolj vprašanje sprotnega spremljanja.
Ta stran opisuje mehanizem, ki stoji za to razvrstitvijo: od česa je odvisna in kaj se zgodi, ko se situacija spremeni. Aktualne pravne opredelitve in mejne vrednosti so navedene drugje; tukaj gre za to, kaj morate znotraj lastne organizacije znati prepoznati in dokazati.
Pri vprašanju, ali neka uporaba tehta težko, strukturno vlogo igra več dejavnikov.
Prvi je področje, na katerem se uporaba uvaja. Nekatera področja — pomislite na odločitve o ljudeh, njihovih priložnostih ali njihovih pravicah — tehtajo težje kot uporabe, ki so izključno interne in podporne narave. Pri tem je pomembno tudi, kaj uporaba znotraj tega področja dejansko počne: sistem, ki svetuje, tehta drugače kot sistem, ki samodejno odloča.
Drugi dejavnik je vloga, ki jo ima vaša organizacija glede na sistem. Ali ga razvijate sami, ga kupujete ali uporabljate storitev, v katero je vgrajen AI, brez da bi to kot tako naročili? Vloga, ki jo imate — ponudnik ali uporabnik — med drugim določa, katere obveznosti bremenijo vas in kateri del odgovornosti ostane pri dobavitelju.
Tretji dejavnik je, kaj se z modelom zgodi po prvi uvedbi. Sistem, ki se uporablja nespremenjen, tako kot je bil dostavljen, je drugačna situacija kot sistem, ki ga fino uravnavate, prekonfigurirate ali mu omogočite učenje na lastnih podatkih. Kaj se spremeni, če model sami prilagodite je zato vprašanje, na katerega je treba odgovoriti posebej — prilagoditev lahko sistem premakne v drugo kategorijo.
Četrti dejavnik je obseg: koliko ljudi je prizadetih, s kakšno pogostostjo in kako reverzibilna je napaka. Uporaba, ki jo občasno uporablja majhna ekipa, tehta drugače kot uporaba, ki vsak dan vpliva na odločitve za tisoče strank.
Ti dejavniki niso statični. Uporaba, ki danes velja za omejeno tveganje, jutri to morda ne bo več — ne ker so se spremenila pravila, ampak ker se je spremenila sama uporaba. Pilotni projekt, ki se razširi na celotno organizacijo, interno orodje, ki začne vplivati na proces s strankami, model, ki se dodatno uči na novih podatkih: vsak od teh korakov lahko spremeni razvrstitev.
To pomeni, da klasifikacija ni enkraten postopek. Gre za vprašanje, ki ga je treba znova zastaviti vsakič, ko se spremeni, kaj sistem počne, na koga vpliva ali kdo ga upravlja. Struktura upravljanja, ki tega ne spremlja, zaostaja za prakso.
Ne vsaka uporaba AI mora skozi celoten ta postopek. Del tega, kar teče znotraj organizacije, ne spada v obseg razvrščanja tveganja — na primer ker ne vpliva na odločitve o ljudeh ali ker ima izključno podporno, ne pa odločilne funkcije. Kje natančno je ta meja in katere uporabe ne spadajo v obseg je odvisno od istih dejavnikov, kot so opisani zgoraj: področje, vloga, prilagoditev in obseg. Torej ne gre za ločen seznam, ampak za drugo stran iste presoje.
Razvrstitev sama po sebi ne spremeni ničesar. Določa le, katere nadaljnje korake je treba izvesti in s kakšno nujnostjo. Nekateri ukrepi so potrebni takoj, drugi se lahko načrtujejo — in kaj mora zdaj biti opravljeno in kaj se lahko načrtuje je znova povezano s tem, kako težko tehta uporaba in koliko ljudi prizadene.
Da bi bili ti koraki vidni in sledljivi, je treba odločitve o klasifikaciji in nadaljnjih ukrepih nekje zapisati — ne kot posamezne opombe, ampak kot del seznama odločitev nadzora, ki pokaže, kdo je kaj odločil in na podlagi katerih informacij. Brez tega zapisa je razvrstitev le trenutni posnetek, ki ga nihče več ne more rekonstruirati.
To vprašanje razvrstitve je mogoče dobro odgovoriti le, če je znano, kaj dejansko teče. IT seznam odobrenih orodij za to ni dovolj: velik del uporabe nastane zunaj tega seznama, v ekipah, ki so začele uporabljati orodje, ne da bi to kjerkoli sporočile. Kdor želi to uporabo popisati, mora o tem povprašati — in to storiti brez da bi bila s tem povezana kakršna koli sankcija, sicer odgovora ne bo.
Ko je jasno, katere uporabe obstajajo in kako tehtajo, se pojavi nadaljnje vprašanje, ki ni več o tveganju, ampak o delu: kateri del naloge lahko prevzame sistem AI in kateri del ostane človeško delo. Na to vprašanje odgovarja delovni sken FTE TO AI, ki za vsako nalogo izračuna, kateri del dela je mogoče prevzeti — drugačen zorni kot kot razvrščanje tveganja, ki pa temelji na istem popisu.
Ta stran opisuje mehanizem, ki stoji za razvrstitvijo. Responsible AI Scan sama je v razvoju; kdor želi uporabiti njene izsledke, ko bodo na voljo, se lahko prijavi na čakalno listo.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.