Popis odluka nadzora bilježi tko je donio koju odluku o kojem AI sustavu, na temelju kojih informacija, i s kojom rezervom. To zvuči jednostavno. U praksi prva verzija često ne uspije jer se postavlja kao novi proces uz postojeće sastanke. Drugi proces uz postojeći biva zanemaren, ne zato što su ljudi nespremni, nego zato što nitko ne rezervira vrijeme za nešto što se ne uklapa u agendu koja je već puna.
Popis nije dnevnik aktivnosti niti registar rizika. Sadrži odluke: trenutke u kojima je netko s ovlaštenjem nešto odobrio, odbio, odgodio ili dopustio uz uvjete. Po redu su potrebna najmanje četiri elementa: sustav ili primjena o kojoj je riječ, ime i uloga donositelja odluke, datum, i obrazloženje ili rezerva. Bez obrazloženja popis odluka je popis prisutnosti. S obrazloženjem postaje dokaz da se razmišljalo, ne samo da je nešto potvrđeno kvačicom.
Popis također treba ostaviti prostora za revidiranje. Odluka donesena prije pola godine na temelju tada dostupnih informacija može biti zastarjela. Dobar popis odluka pokazuje kada je odluka ponovno potvrđena ili povučena, ne samo kada je izvorno donesena.
Uprave i direkcije već imaju svoj ritam: tromjesečni sastanci, odbori za rizike, revizijski odbori. Onaj tko uspostavi novu strukturu nadzora koja stoji odvojeno od tog ritma, traži od ljudi da pronađu dodatno vrijeme za nešto što nema jasno mjesto. To se rijetko događa strukturno. Prvih nekoliko puta možda uspije, uz određeni napor. Nakon toga to nestaje s agende čim se pojavi nešto urgentnije, a nešto urgentnije se pojavljuje uvijek.
Rješenje nije izgraditi novi proces, nego popis odluka uklopiti u ono što se već događa. Ako već postoji odbor za rizike koji se sastaje svako tromjesečje, popis AI odluka treba biti stalna stavka te agende, ne zaseban sastanak. Ako već postoji revizijski trag za financijske odluke, logiku tog traga — tko potpisuje, tko provjerava, gdje se pohranjuje — treba ponovno iskoristiti za AI odluke. To je i razlog zašto je uklapanje u postojeću strukturu za rizike zasebna tema: popis odluka koji se ne uklapa u to kako se rizik već raspravlja negdje drugdje, ostaje izolirani dokument koji nitko ne konzultira.
Popis odluka ne funkcionira sam za sebe. On hrani izvještavanje koje je upravi potrebno da bi mogla reći da postoji uvid u AI rizik, i pretpostavlja da postoji put za slučaj kada se odluka pokaže neodrživom. Bez izvještaja upravi na jednoj stranici koji sažima popis odluka, informacija nestaje u arhivu koji nitko ne pregledava. Bez eskalacijskih putova koji funkcioniraju zastarjela odluka jednostavno ostaje na snazi, jer nitko ne zna kome to treba prijaviti.
To troje je povezano: popis odluka bilježi što je odlučeno, izvještavanje to čini vidljivim na razini gdje ima težinu, a eskalacija osigurava da se odluka može ponovno otvoriti ako se situacija promijeni. Ako se izgradi jedno bez druga dva, nastaje privid preglednosti koji pri prvoj provjeri — incidentu, pitanju regulatora, novinaru — ne pokrije ono što se stvarno događa.
Popis odluka vrijedi koliko vrijede informacije koje u njega ulaze. Ako nitko ne zna koji su AI sustavi stvarno u uporabi — uključujući ono što je nabavljeno ili uspostavljeno bez znanja IT-a — popis bilježi samo odluke o vidljivim, formalno odobrenim primjenama. Ostalo ostaje neodlučeno, ne zato što odluka nije bila potrebna, nego zato što nitko nije znao da postoji nešto o čemu treba odlučiti. Zato inventar uvijek prethodi popisu odluka, a ne dolazi poslije njega. Što bi član uprave o tome trebao znati, opisano je u što bi član uprave trebao znati o AI riziku; što bi CIO trebao prepoznati u tom inventaru, stoji u što bi CIO trebao znati o AI riziku.
Što je sigurno: popis odluka koji se ne uklapa u postojeći sastanak neće se održavati, a popis odluka bez potpune slike o tome što je u uporabi bilježi samo dio stvarnosti. Što ovisi o organizaciji: koji je sastanak pravo mjesto uklapanja, koliko se često taj sastanak održava, i tko ima ovlast donijeti odluku koja završava na popisu. To se razlikuje po sektoru, po strukturi upravljanja i po kulturi rizika, i zato ne postoji fiksni predložak koji svugdje funkcionira bez prilagodbe.
Responsible AI Scan je u izradi. Tko trenutno ima potrebu za popisom odluka koji se uklapa u postojeću strukturu, može se prijaviti na listu čekanja; još se ne nudi ništa što još ne postoji.
Popis odluka kaže tko je odlučio, ne koliko posla sustav stvarno preuzima ili bi mogao preuzeti. Za to pitanje — koji se dio zadatka može prenijeti na AI, a koji ne — potreban je drugi pogled od onoga što upravljanje samo po sebi pruža. Werkscan tvrtke FTE TO AI izračunava po zadatku koji se dio posla može preuzeti, kao dopuna pregledu koji pruža popis odluka i s njim povezana struktura nadzora.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.