Pitanje smatra li se neka AI primjena visokorizičnom zvuči kao tehnička kvalifikacija. U praksi je to podjela koja ovisi o nekoliko konkretnih čimbenika, a ta podjela potom određuje koliko se od vas očekuje nadzora, dokumentacije i mogućnosti dokazivanja. Aktualne zakonske definicije i pragovi ne nalaze se na ovoj stranici; njih ćete pronaći negdje drugdje. Ovdje objašnjavamo o čemu ovisi ta podjela i što se u vašoj organizaciji mijenja kada se ta podjela promijeni.
Ne postoji jedna značajka koja neku primjenu čini visokorizičnom. Riječ je o kombinaciji čimbenika koji zajedno oblikuju sliku: domena u kojoj se primjena koristi, mjera u kojoj odluka izravno utječe na osobu, i pitanje postoji li čovjek koji zaista može ocijeniti savjet ili ishod AI-a i, ako je potrebno, ispraviti ga prije nego što proizvede učinak. Primjena koja samo sažima tekst obično se drugačije razvrstava od primjene koja utječe na odluku o pojedincu. Također je važan kontekst u kojem se primjena koristi: ista temeljna tehnologija može se u jednoj domeni smatrati niskorizičnom, a u drugoj visokorizičnom, ovisno o tome što se s ishodom dalje radi.
Ovo je jedan od razloga zašto popis odobrenog softvera nije dovoljan. Podjela ne ovisi o oznaci na paketu, nego o tome kako se on stvarno koristi i gdje se nalazi u procesu odlučivanja.
Ako se primjena procijeni kao rizičnija, mijenja se ono što se od organizacije očekuje: više dokumentacije o tome kako primjena funkcionira i kako je testirana, jasniji mehanizam nadzora nad ishodima i način da se naknadno može pokazati tko je na što obraćao pažnju. To nije jednokratna radnja, nego trajna obveza: dokumentacija i nadzor moraju ostati aktualni sve dok je primjena u upotrebi.
Podjela nije statična. Primjena koja se danas smatra ograničenim rizikom sutra se može koristiti drugačije — u drugoj domeni, s većim utjecajem na pojedince ili s manje ljudske intervencije nego prije. Tko podjelu utvrdi jednom i potom je više ne revidira, riskira da klasifikacija više ne odgovara stvarnoj upotrebi. To vrijedi i za primjene koje se prilagođavaju nakon nabave; što se točno mijenja kada sami prilagodite model, ovisi o prirodi te prilagodbe, kao što je opisano na stranici o prilagodbama modela.
Klasifikacija primjene ima smisla samo ako se primjenjuje na ono što se stvarno koristi. Velik dio upotrebe u organizaciji odvija se izvan službenog popisa: timovi koji koriste jezični model za nacrt e-pošte, analitičar koji koristi vanjski model za prvu verziju izvještaja, odjel koji je nabavio alat bez da je to prijavio. Ta upotreba ne nastaje iz nevoljnosti. Nastaje jer je službeni put sporiji od potrebe, ili jer nitko nije znao da postoji put koji treba slijediti.
Posljedica je da IT popis rijetko daje potpunu slika. Tko želi znati što je stvarno potrebno za klasifikaciju rizika, mora sam kartirati upotrebu — a to zahtijeva postavljanje pitanja ljudima koji obavljaju posao, bez posljedica koje slijede iz toga. Tko već na prvom razgovoru osjeti da iskren odgovor ima posljedice, ne odgovara iskreno. To čini inventuru neupotrebljivom prije nego što je dovršena.
Ne svaka primjena AI-a spada u okvir u kojem je klasifikacija rizika relevantna. Neke primjene po prirodi ili namjeni spadaju izvan dosega propisa, i pametno je tu razliku napraviti rano, prije nego što utrošite vrijeme na klasifikaciju koja nije potrebna; koje se primjene to tiče, opisano je na stranici o primjenama koje spadaju izvan dosega obveza. Također, ulogu koju vaša organizacija igra — kao ponuditelj sustava ili kao njegov korisnik — utječe na to koje su obveze povezane s klasifikacijom rizika, a ta uloga nije uvijek unaprijed jasna; što tu presudno utječe, pročitajte na stranici o razlici između ponuditelja i korisnika. Ta se uloga uostalom može promijeniti čim prilagodite sustav ili ga ponudite pod vlastitim imenom, što je detaljnije objašnjeno na stranici o okolnostima u kojima se vaša uloga mijenja.
Podjela prema razini rizika gotovo uvijek otvara sljedeće pitanje: što je od toga hitno, a što se još može planirati. Ta razlika nije jednaka za svaku organizaciju i ovisi o tome koje su primjene već u produkciji, a koje su još u razvoju. Pregled onoga što obično prvo zahtijeva pažnju i onoga što može slijediti kasnije nalazi se na stranici o tome što je sada potrebno i što se može planirati.
Kada jednom postane jasno koje se primjene u vašoj organizaciji smatraju visokorizičnima, samo se po sebi nameće drugo pitanje: koliki dio temeljnog posla stvarno obavlja AI, a koliki ljudi koji provjeravaju ili nadopunjuju ishod. To pitanje izlazi izvan dosega ove provjere, ali odgovor na njega daje radna provjera (werkscan) tvrtke FTE TO AI, koja po zadatku izračunava koji se dio posla razumno može prepustiti AI-u.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.