Človeški nadzor se pogosto opredeli kot vloga: nekdo, ki je odgovoren, ime v registru, potrjeno polje. To je izhodišče, ne mehanizem sam. Nadzor nastane šele, ko obstaja trenutek, v katerem lahko človek vidi izid uporabe AI, ga razume in ga popravi, preden ta izid pride kamor koli. Brez tega trenutka je ime pod razvrstitvijo le formalnost.
Ali nadzor v praksi deluje, je odvisno od več stvari, ki se ne zložijo same od sebe. Nekdo mora imeti pooblastilo, da izid zadrži, ne le nalogo, da ga pogleda. Na voljo mora biti čas za pregled, kar pomeni, da postopek ni zasnovan tako, da je izid AI že obdelan, preden pride do preverjanja. In potrebno je zadostno razumevanje tega, kaj uporaba počne, da se prepozna odstopanje. Nadzornik, ki izida ne more presoditi, ne izvaja nadzora, tudi če je vloga formalno dodeljena.
S tem je povezano kaj pomeni pismenost o AI za vaše zaposlene: nadzor brez razumevanja osnovne uporabe je nadzor na papirju.
Struktura upravljanja lahko opredeli, kdo je za kaj odgovoren, kakšna raven tveganja velja za posamezno uporabo in kateri koraki so s tem povezani. Kar struktura ne stori, je zagotoviti, da ta oseba izid tudi dejansko presodi v trenutku, ko je to pomembno. To je organizacijsko dejstvo, ne tehnično dejstvo. Razvrstitev lahko je pravilna, medtem ko nadzor kljub temu ostane prazen, ker oseba, ki je na papirju odgovorna, nima časa, dostopa ali znanja, da bi izid preverila.
Popis in razvrstitev razkrijeta, kje je to tveganje največje: pri uporabah z višjo ravnjo tveganja ali pri uporabah, ki so prišle v organizacijo zunaj rednega IT-postopka. Ta zadnja skupina je pogosto najbolj zapletena, saj mora tisti, ki želi organizirati nadzor nad nečim, kar ni zabeleženo v evidenci, to najprej poiskati. To se navezuje na vprašanje kaj storite z zaposlenimi, ki uporabljajo orodje, ki ga nihče ni potrdil: nadzor nad senčno AI se začne s priznanjem, da ta uporaba obstaja, ne s sankcijo za njeno uporabo.
Uporaba, ki je danes pod nadzorom, je lahko jutri spremenjena. Model se posodobi, vhodni podatki se spremenijo, ali pa se uporaba znotraj organizacije razširi iz preproste naloge v nekaj s večjo težo. Nadzor, ki je zasnovan glede na razmere pred letom dni, ni več skladen s tem, kar se dogaja zdaj. To je eden od razlogov, da razvrstitev ni enkratno opravilo; kako pogosto je treba to ponoviti, je odvisno od ravni tveganja in stopnje, do katere se uporaba spreminja, kot je razloženo v kako pogosto morate ponovno razvrstiti.
To pomeni tudi, da ima register vrednost le, če se vzdržuje. Popis, ki je bil izdelan ob prvem skeniranju in nato ni bil več posodobljen, daje vse manj natančno slika o tem, kje je nadzor potreben. Vprašanje, kako organizacija ta register ohranja aktualen, je ločeno od vprašanja, kako je register zgrajen, in si zasluži lastno pozornost: glejte kako ohranjate register AI aktualen.
Uprava, ki jo prosijo, naj dokaže, da obstaja nadzor nad uporabo AI, se ne more zadovoljiti s seznamom vlog. Dokazljivost zahteva sled: kdo je pogledal kateri izid, v katerem trenutku, s kakšnim pooblastilom za popravek. Ta sled je pomembna tudi v trenutku, ko gre kaj narobe. Vprašanje, kdo je odgovoren, kadar uporaba AI naredi napako, ni odgovorjeno samo z razvrstitvijo, temveč z dokazljivim nadzorom, ki je temu sledil. Ti dve stvari se zlahka zamenjata, medtem ko je ločevanje pomembno; glejte kdo je odgovoren, kadar uporaba AI naredi napako.
Nadzor se dotika tudi tega, kaj se v uporabo vnaša. Zaposleni, ki poslovne podatke vstavi v brezplačno klepetalno okno, s tem te podatke postavi zunaj vsakega nadzora, ki ga je organizacija vzpostavila, ne glede na to, kako dobro je urejen nadzor nad potrjenimi uporabami. To je posebno področje pozornosti znotraj širšega vprašanja, obravnavano pod kaj storite s poslovnimi podatki v brezplačnem klepetalnem oknu.
Ta stran opisuje, kako nadzor deluje kot mehanizem: kdo gleda, kdaj, s kakšnim pooblastilom in kako se to dokazuje. Vsebinski standardi, ki določajo, kdaj je nadzor obvezen, kako strog mora biti glede na kategorijo tveganja in v katerih rokih mora biti vzpostavljen, niso obravnavani tukaj. Ta regulativna vsebina se spreminja in se aktualizira drugje.
Organiziranje nadzora nad nalogo ima smisel le, če je jasno, kaj ta naloga natančno vključuje in kateri njen del izvaja uporaba AI. To je drugačno vprašanje od tega, katero vlogo ali raven tveganja ima uporaba; gre za samo nalogo, razdeljeno na korake, ki jih lahko prevzame uporaba AI, in korake, ki za to niso primerni. Delovni skener podjetja FTE TO AI to izračuna po posamezni nalogi, tako da postane vidno, kateri del dela je mogoče prevzeti in kateri del mora ostati znotraj obsega človeškega nadzora.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.