Klasifikacija ni enkraten proces

Klasifikacija AI-rešitve opisuje situacijo v določenem trenutku: kateri model, katera aplikacija, kateri uporabniki, kakšno tveganje. Ta situacija se spreminja. Ponudnik prilagodi model, ekipa uporablja orodje za nekaj drugega, kot je bilo za to kupljeno, ponudnik dodaja funkcijo, brez da bi kdo za to prosil za dovoljenje. Klasifikacija, ki ste jo naredili lansko leto, zato ne opisuje samodejno še vedno današnje situacije.

Vprašanje "kako pogosto" nima fiksnega odgovora, ki bi veljal za vsako organizacijo. Odvisno je od tega, koliko AI-rešitev obstaja, kako hitro se te spreminjajo, kako raznolike so ekipe, ki z njimi delajo, in kako strog je nadzor v sektorju, v katerem delujete. Fiksen letni trenutek je izhodišče, ni pa garancija, da vmes ne boste česa zamudili.

Kaj fiksni interval ne rešuje

Letna ali polletna ponovna presoja dobro deluje za rešitve, ki jih že poznate in ki so prišle skozi formalni postopek. Za rešitve, ki jih nihče ni prijavil, fiksni interval ne deluje, preprosto zato, ker na določen datum ni ničesar za ponovno oceno. Kaj storite z zaposlenimi, ki uporabljajo orodje, ki ga nihče ni potrdil opisuje, zakaj se to vprašanje ne rešuje s ponavljajočim se sestankom v koledarju, ampak z drugačnim načinom zastavljanja vprašanj organizaciji.

Poleg tega se tveganje ne spreminja le glede na to, kaj rešitev počne, temveč tudi glede na to, s čim se hrani. Klepetalno okno, ki se danes uporablja za povzemanje javnega besedila, se lahko jutri uporablja za povzemanje pogodbe. Kaj storite s podatki podjetja v brezplačnem klepetalnem oknu prikazuje, da se raven tveganja istega orodja lahko spremeni, brez da bi se samo orodje spremenilo.

Signali, ki zahtevajo ponovno presojo, ne glede na datum

Poleg fiksnega trenutka obstajajo dogodki, ki zahtevajo vmesno ponovno presojo. Spremembo funkcije rešitve, razširitev skupine uporabnikov, incident ali skoraj-incident, spremembo pogojev ponudnika ali signal zaposlenega, da se nekaj uporablja drugače, kot je bilo namenjeno. Ti signali niso vsi enako pomembni in ne bo jih vsaka organizacija enako hitro opazila.

Vprašanje, kdo odgovarja na te signale in kdo je lastnik same ponovne presoje, je ločeno vprašanje. Kdo je odgovoren, ko AI-rešitev naredi napako opisuje, da se odgovornost pogosto določi šele v trenutku, ko gre kaj narobe, čeprav bi na to vprašanje moral biti odgovor že pri prvi klasifikaciji.

Zakaj drugi proces pogosto izgine hitreje kot proces, ki je že obstajal

Ritem ponovne presoje, ki je postavljen ob obstoječe procese obvladovanja tveganja, ne pa vanje integriran, običajno izgubi prioriteto v enem letu. Gre za dodaten korak, ki ga nihče ne zahteva, dokler kaj ne gre narobe, in ravno zato ostaja odrinjen. Zakaj drugi proces poleg obstoječega ostane prezrt razlaga, zakaj je ponovna presoja učinkovitejša, kadar je vgrajena v obstoječe obvladovanje tveganja, namesto da je samostojen postopek, ki tekmuje za pozornost z ostalo organizacijo.

Kaj metoda ne zmore

Metoda klasifikacije lahko ponudi strukturo za dosledno ocenjevanje AI-rešitev glede na vlogo in raven tveganja, in to strukturo je mogoče ponovljivo uporabljati. Kar metoda ne zmore, je zagotoviti, da vidite vse. Klasifikacija je toliko dobra, kolikor je dobra informacija, na kateri temelji, in ta informacija delno prihaja od ljudi, ki imajo lahko razlog, da nečesa ne prijavijo. Zaposleni, ki uporablja orodje, ki ni bilo potrjeno, tega ne bo prijavil sam, če pričakuje, da bo sledila sankcija.

Metoda tudi ne more napovedati, kdaj bo ponudnik spremenil model, ali kdaj bo rešitev, ki je danes nizkega tveganja, jutri uporabljena drugače. Ponovna presoja zato ostaja stvar ponavljanja in organiziranja odprtosti, ne pa sistema, ki se enkratno vzpostavi in nato samostojno ostaja aktualen. Kako vodite register, da po nekaj mesecih ne zastari, je opisano v kako ohranjate AI-register aktualen, kjer je v ospredju razlika med enkratnim popisom in tekočim procesom.

S tem je povezano tudi vprašanje, kaj nadzor nad AI v praksi pomeni med trenutki ponovne presoje: kdo spremlja, s kakšno pogostostjo in na podlagi katerih signalov. Kaj je človeški nadzor v praksi razlikuje med nadzorom kot formalnim kljukanjem in nadzorom kot nekaj, kar neprestano spremlja uporabo.

Naslednje vprašanje, ko je klasifikacija enkrat vzpostavljena