Pitanje je li AI primjena unutar vaše organizacije visokorizična nije pitanje na koje jednom odgovorite i onda ga odbacite. To je ishod niza faktora koji zajedno određuju koliko primjena teži. Promijeni li se jedan od tih faktora, možda se promijeni i razvrstavanje. Zbog toga je klasifikacija rizika manje stvar ispunjavanja obrasca, a više stvar praćenja.
Ova stranica opisuje mehanizam koji stoji iza tog razvrstavanja: o čemu ovisi i što se događa kada se situacija promijeni. Aktualne zakonske definicije i pragovi navedeni su na drugom mjestu; ovdje je riječ o tome što unutar vlastite organizacije morate moći vidjeti i dokazati.
Niz faktora strukturno igra ulogu u pitanju teži li primjena mnogo ili ne.
Prvi je domena u kojoj se primjena koristi. Neke domene — mislite na odluke o ljudima, njihovim izgledima ili njihovim pravima — teže više od primjena koje su isključivo interne i podržavajuće. Ono što primjena točno radi unutar te domene također pravi razliku: sustav koji savjetuje razlikuje se od sustava koji automatski donosi odluku.
Drugi faktor je uloga koju vaša organizacija ima u odnosu na sustav. Gradite li ga sami, kupujete li ga, ili koristite li uslugu u kojoj je AI ugrađen bez da ste to kao takvo nabavili? Uloga koju obavljate — pružatelj ili korisnik — dijelom određuje koje obveze snosite i koji dio odgovornosti ostaje na dobavljaču.
Treći faktor je ono što se događa s modelom nakon prvog puštanja u rad. Sustav koji se koristi nepromijenjen, onako kako je isporučen, drugačija je situacija od sustava koji finetunirate, rekonfigurirate ili puštate da uči na vlastitim podacima. Što se mijenja kada sami prilagodite model je stoga pitanje na koje treba odgovoriti odvojeno — prilagodba može uzrokovati da sustav promijeni kategoriju.
Četvrti faktor je opseg: koliko je ljudi pogođeno, s kojom frekvencijom i koliko je pogreška povratna. Primjena koja se povremeno koristi u malom timu drugačije teži od primjene koja svakodnevno utječe na odluke za tisuće klijenata.
Ovi faktori nisu statični. Primjena koja danas vrijedi kao ograničeni rizik, sutra to možda više nije — ne zato što su se pravila promijenila, nego zato što se promijenila sama primjena. Pilot koji se proširi na cijelu organizaciju, interni alat koji počne utjecati na proces prema klijentima, model koji se dodatno trenira na novim podacima: svaki od tih koraka može prevagnuti razvrstavanje.
To znači da klasifikacija nije jednokratna vježba. To je pitanje koje se mora ponovno postaviti svaki put kada se nešto promijeni u onome što sustav radi, koga pogađa ili tko ga upravlja. Struktura upravljanja koja to ne prati, zaostaje za praksom.
Ne svaka AI primjena mora proći cijeli ovaj postupak. Dio onoga što se koristi unutar organizacije izvan je opsega klasifikacije rizika — na primjer zato što ne utječe na odluke o ljudima ili zato što ima isključivo podržavajuću, a ne odlučujuću funkciju. Gdje se ta granica točno nalazi i koje primjene ne ulaze u opseg ovisi o istim faktorima kao gore opisani: domena, uloga, prilagodba i opseg. To dakle nije zaseban popis, već druga strana iste procjene.
Razvrstavanje sam po sebi ništa ne mijenja. Ono samo određuje koji su sljedeći koraci potrebni i s kojom hitnošću. Neke radnje potrebne su odmah, druge se mogu planirati — a što treba učiniti sada i što se može planirati povezano je opet s tim koliko primjena teži i koliko ljudi pogađa.
Da bi ti koraci bili vidljivi i sljedivi, odluke o klasifikaciji i naknadnim radnjama moraju se negdje zabilježiti — ne kao razdvojene bilješke, nego kao dio popisa odluka nadzora koji pokazuje tko je što odlučio i na temelju kojih informacija. Bez te evidencije, razvrstavanje je trenutni snimak koji nitko više ne može rekonstruirati.
Ovo pitanje razvrstavanja može se dobro odgovoriti samo ako se zna što se stvarno koristi. Popis odobrenih alata IT odjela za to nije dovoljan: velik dio korištenja nastaje izvan tog popisa, u timovima koji su počeli koristiti alat bez da su to negdje prijavili. Tko želi mapirati to korištenje, mora to pitati — i to raditi samo bez da uz to ide obračun, inače odgovor neće doći.
Čim je jasno koje primjene postoje i koliko teže, nastaje sljedeće pitanje koje se više ne odnosi na rizik, nego na posao: koji dio zadatka može preuzeti AI sustav, a koji dio ostaje ljudski posao. Na to pitanje odgovara skeniranje posla (werkscan) tvrtke FTE TO AI, koje po zadatku izračunava koji se dio posla može preuzeti — drugi kut gledanja od klasifikacije rizika, ali onaj koji se nadograđuje na istu inventuru.
Ova stranica opisuje mehanizam koji stoji iza razvrstavanja. Sam Responsible AI Scan je u razvoju; tko želi koristiti njegove rezultate čim postanu dostupni, može se prijaviti na listu čekanja.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.