Vprašanje, ali se AI-rešitev šteje za visoko tvegano, zveni kot tehnična opredelitev. V praksi gre za razvrstitev, ki je odvisna od več konkretnih dejavnikov, in ta razvrstitev nato določa, koliko nadzora, dokumentacije in dokazljivosti se od vas pričakuje. Aktualne pravne opredelitve in mejne vrednosti niso opisane na tej strani; te najdete drugje. Tukaj pojasnjujemo, od česa je razvrstitev odvisna in kaj se v vaši organizaciji spremeni, če se ta razvrstitev spremeni.
Ni ene same lastnosti, ki bi rešitev naredila visoko tvegano. Gre za kombinacijo dejavnikov, ki skupaj oblikujejo celotno slike: področje, na katerem se rešitev uporablja, mera, v kolikšni meri odločitev neposredno vpliva na posameznika, in vprašanje, ali obstaja oseba, ki lahko nasvet ali izid AI dejansko presodi in ga po potrebi popravi, preden ima učinek. Rešitev, ki samo povzema besedilo, je v tej razvrstitvi običajno drugače obravnavana kot rešitev, ki soodloča o odločitvi glede posameznika. Prav tako šteje kontekst, v katerem se rešitev uporablja: ista osnovna tehnologija lahko na enem področju velja za nizko tveganje, na drugem pa za visoko tveganje, odvisno od tega, kaj se z izidom nato zgodi.
To je eden od razlogov, zakaj seznam odobrene programske opreme ne zadošča. Razvrstitev ni odvisna od nalepke na paketu, temveč od tega, kako se rešitev dejansko uporablja in kje v procesu odločanja se nahaja.
Če se rešitev oceni kot bolj tvegana, se spremeni tudi to, kaj se od organizacije pričakuje: več dokumentacije o tem, kako rešitev deluje in je bila testirana, jasnejši mehanizem nadzora nad izidi in način, kako naknadno dokazati, kdo je na kaj pazil. To ni enkratno dejanje, temveč trajna obveznost: dokumentacija in nadzor morata ostati aktualna, dokler se rešitev uporablja.
Razvrstitev tudi ni statična. Rešitev, ki danes velja za omejeno tvegano, se lahko jutri uporablja drugače — na drugem področju, z večjim vplivom na posameznike ali z manj človeškega posredovanja kot prej. Kdor razvrstitev določi enkrat in je nato ne preverja več, tvega, da klasifikacija ne bo več ustrezala dejanski uporabi. To velja tudi za rešitve, ki se prilagodijo po tem, ko so bile nabavljene; kaj natančno se spremeni, če model sami prilagodite, je odvisno od narave te prilagoditve, kot je opisano na strani o prilagoditvah modela.
Klasifikacija rešitve je smiselna le, če se uporablja na tem, kaj se dejansko uporablja. Velik del uporabe v organizaciji poteka zunaj uradnega popisa: ekipe, ki uporabljajo jezikovni model za osnutek e-poštnega sporočila, analitik, ki uporablja zunanji model za prvo različico poročila, oddelek, ki je nabavil orodje brez prijave. Ta uporaba ne izhaja iz nevoljnosti. Nastane, ker je uradna pot počasnejša od potrebe, ali ker nihče ni vedel, da je treba to pot ubrati.
Posledica je, da IT-seznam redko daje popolno slike. Kdor želi vedeti, kaj je resnično potrebno za klasifikacijo tveganja, mora sam preslikati uporabo — in to zahteva postavljanje vprašanj ljudem, ki delo dejansko opravljajo, brez da bi temu sledila kazen. Kdor že ob prvem pogovoru začuti, da bo iskren odgovor imel posledice, ne odgovori iskreno. To naredi popis neuporaben, še preden je zaključen.
Ne vsaka uporaba AI sodi znotraj okvira, v katerem je razvrstitev tveganja relevantna. Nekatere rešitve po naravi ali namenu sodijo zunaj obsega regulacije, in smiselno je to razlikovanje narediti zgodaj, preden porabite čas za klasifikacijo, ki ni potrebna; katerih rešitev se to tiče, je opisano na strani o rešitvah, ki sodijo zunaj obsega obveznosti. Prav tako vloga, ki jo vaša organizacija igra — kot ponudnik sistema ali kot njegov uporabnik — vpliva na to, katere obveznosti so vezane na razvrstitev tveganja, in ta vloga ni vedno vnaprej jasna; kaj je pri tem odločilno, si lahko preberete na strani o razlikovanju med ponudnikom in uporabnikom. Ista vloga se sicer lahko spremeni, takoj ko sistem prilagodite ali ga ponudite pod lastnim imenom, kar je natančneje pojasnjeno na strani o okoliščinah, v katerih se vaša vloga spremeni.
Razvrstitev po stopnji tveganja skoraj vedno sproži nadaljnje vprašanje, kaj od tega je nujno in kaj se lahko še načrtuje. To razlikovanje ni enako za vsako organizacijo in je odvisno od tega, katere rešitve so že v produkciji in katere so še v razvoju. Pregled tega, kaj običajno najprej zahteva pozornost in kaj lahko sledi kasneje, je na strani o tem, kaj je treba storiti zdaj in kaj lahko načrtujete.
Ko je enkrat jasno, katere rešitve v vaši organizaciji veljajo za visoko tvegane, se samodejno pojavi drugo vprašanje: koliko od osnovnega dela dejansko opravlja AI in koliko ljudje, ki izid preverjajo ali dopolnjujejo. To vprašanje sicer sodi zunaj obsega tega pregleda, nanj pa odgovarja delovni pregled podjetja FTE TO AI, ki po nalogah izračuna, kolikšen del dela je smiselno prevzeti z AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.