Odgovornost pri napaki aplikacij AI

Aplikacija AI naredi napako. Odločitev ni pravilna, nasvet je zavajajoč, stranka je neupravičeno zavrnjena. Vprašanje, ki sledi, ni le tehnično. Kdo bi to moral predvideti, kdo je upravljal sistem in kdo lahko razloži, zakaj je bil uveden tako, kot je bil uveden.

Ta odgovor ne obstaja neodvisno od registra. Odgovornost predpostavlja, da nekdo ve, da aplikacija obstaja, čemu služi in kdo je zanjo pristojen. Brez te osnove je vprašanje odgovornosti retorično: nihče tega ne ve, torej nihče tega ne more razložiti.

Kaj popis reši in kaj ne

Responsible AI Scan popiše, kaj deluje, kdo to uporablja in s kakšno stopnjo tveganja je to povezano. To je izhodišče, ne izjava o krivdi. Scan razvrsti aplikacijo glede na vlogo in tveganje; ne presoja, ali je bila posamezna odločitev pravilna. Ta presoja spada k samemu incidentu, ne k popisu, ki mu je predhodil.

Kar scan resnično naredi, je, da vzpostavi strukturo, znotraj katere je to presojo mogoče kasneje opraviti. Če je znano, kdo je aplikacijo nabavil, kdo jo upravlja in za kakšen namen je bila potrjena, obstaja rdeča nit, na katero se je mogoče opreti. Če te strukture ni, se vprašanje odgovornosti sprevrže v naknadno ugibanje.

Seznam IT ni praksa

Večina organizacij ima seznam potrjene programske opreme. Ta seznam je skoraj nikoli popoln. Zaposleni uporabljajo orodja, ki jih nihče ni prijavil, pogosto ker gre delo hitreje in ker nihče ni vprašal. To po definiciji ni neodgovorno ravnanje; je posledica tega, da organizacija ne ponuja druge poti.

Kdor želi izvedeti, kaj se dejansko uporablja, mora vprašati. In to deluje le, če vprašanje ne prinaša posledic. Takoj ko zaposleni sumi, da bo iskren odgovor privedel do korektivnega pogovora, se odgovor ustavi. Kaj storite z zaposlenimi, ki uporabljajo orodje, ki ga nihče ni potrdil obravnava prav ta mehanizem: popis je toliko dober, kolikor je dobro zaupanje, s katerim je bil zbran.

Temu je treba dodati tudi vprašanje, kaj se zgodi s poslovnimi informacijami, ko so vtipkane v zunanje okno. Kaj storite s poslovnimi podatki v brezplačnem klepetalnem oknu opisuje tveganje, ki ni povezano z zlonamernostjo: nekdo želi le preveriti besedilo in med tem vtipka tudi to, česar ne bi smel.

Dokazljivost, ne garancija

Sklop upravljanja (governance), ki sledi popisu, določa, kdo potrjuje aplikacijo, kdo izvaja nadzor in kako se to dokumentira. To se navezuje na strukturo obvladovanja tveganj, ki jo organizacija že ima za druga področja: isti odbori, iste linije poročanja, iste poti za eskalacijo. Ne gre za novo napravo ob obstoječi; gre za kategorijo, ki se doda temu, kar že obstaja.

To omogoča dokazljivost: uprava lahko pokaže, da je bilo pogledano, razvrščeno in da je bil vzpostavljen nadzor. Ne omogoča garancije, da aplikacija ne bo nikoli več naredila napake. Ti dve stvari sta ločeni, in scan se o drugi ne izreka. Kar prinaša, je osnova, na podlagi katere lahko uprava razloži, kaj je bilo storjeno, ne zavarovanje pred tem, kar se lahko še zgodi.

Zakaj drugi proces navadno ne obstane

Pogosta napaka je vzpostavitev ločenega procesa za AI, neodvisno od obstoječe strukture za obvladovanje tveganj in skladnosti. Ta proces na začetku pritegne pozornost, nato pa zdrsne v ozadje, ker nihče ne vzdržuje drugega sistema poleg prvega. Zakaj se drugi proces ob obstoječem prezre razloži, zakaj navezava na obstoječe strukture ni vprašanje učinkovitosti, temveč pogoj za to, da nekaj obstane.

Temu je treba dodati tudi to, da je popis trenutek, ne končna točka. Nove aplikacije se dodajajo, obstoječe spreminjajo funkcijo, in razvrstitev, ki je bila pravilna ob uvedbi, ni samodejno pravilna tudi eno leto pozneje. Kako pogosto morate ponovno razvrstiti in kako ohranjate register AI aktualen opisujeta, kaj to vzdrževanje v praksi zahteva in zakaj register, ki je bil pripravljen enkrat, v razmeroma kratkem času ne ustreza več dejanskemu stanju.

Ljudje, ki delajo s temi aplikacijami, so poleg tega del rešitve, ne le tveganje, ki ga je treba obvladovati. Kaj zaposleni razumejo in česa ne razumejo o sistemih, ki jih uporabljajo, določa, ali sklop upravljanja v praksi sploh kaj pomeni. Kaj pomeni pismenost o AI za vaše zaposlene obravnava prav ta vidik.

Naslednje vprašanje

Kdor enkrat ve, katere aplikacije AI delujejo in kdo je zanje pristojen, se samodejno sooči z naslednjim vprašanjem: kateri del dela, ki se danes opravlja ročno, je pravzaprav primeren, da ga prevzame aplikacija AI. To je drugačno vprašanje od odgovornosti, vendar temelji na istem popisu. Delovni scan podjetja FTE TO AI po posamezni nalogi izračuna, kateri del dela lahko prevzame AI, kot naslednji korak, ko je enkrat jasno, kaj že deluje in kdo o tem odloča.