Pogosto že obstaja dokument z naslovom postopek eskalacije. V njem je shema s puščicami, vrsta imen in nekaj mejnih vrednosti. Težava ni, da dokument manjka. Težava je, da ga nihče ne odpre v trenutku, ko je to potrebno.
To se ne zgodi zaradi nevoljnosti. Zgodi se, ker že obstaja pot, po kateri težave prihajajo navzgor: linijski vodja, ki prijavi IT-incident, uradnik za skladnost, ki govori s poslovno stranjo, vodja ekipe, ki svojo težavo predloži svojemu nadrejenemu. Ta pot obstaja, se uporablja vsak dan in deluje — za stvari, za katere je namenjena. Nova pot eskalacije, posebej za AI-incidente, je potem druga pot poleg poti, ki že poteka. Ob dvomu vsak izbere pot, ki jo pozna.
Pot eskalacije, ki je ločena od obstoječe strukture, od zaposlenega zahteva, da najprej prepozna, da gre za AI-incident, potem se spomni, da zanj velja drug proces, in nazadnje si vzame trud, da ta proces sledi, namesto da preprosto pokliče svojega nadrejenega. Vsak korak v tej verigi je trenutek, ko se pot opusti.
Poleg tega obstaja drugi razlog, manj viden, a prav tako odločilen: kdor prijavi odstopanje, ne želi takoj pristati na obrazcu za incidente organizacije. Če je eskalacija enačena z obračunavanjem, se ne eskalira. To velja za zaposlenega, ki je uporabljal orodje AI, ki ni bilo odobreno, in velja za vodjo, ki je zagnal model, ne da bi kdo za to vedel. Pot eskalacije, ki se dejansko uporablja, je pot, kjer prva prijava ni obsodba, temveč signal.
Pot eskalacije, ki deluje, opisuje tri stvari in nič več.
Kdor kaj opazi — zaposleni, stranka, zunanja stranka — mora vedeti, na koga se lahko obrne, brez da bi moral najprej ugotoviti, ali gre za vprašanje AI ali za običajno operativno vprašanje. Pot se ujema z že obstoječo prijavno točko, z dodatno vejo v trenutku, ko se izkaže, da je AI vpleten.
Kdor sprejme odločitev — ali se nekaj ustavi, prilagodi ali prijavi nadzornemu organu — mora biti določeno, preden se incident zgodi. Ne kot abstraktni naziv funkcije, temveč kot ime, z namestnikom. Eskalacija, ki se ustavi pri praznem mandatu, ni eskalacija.
Kaj se nato zgodi s prijaviteljem, mora biti jasno. Če drugi proces obstaja le kot obveznost prijave brez jasnosti o posledicah za prijavitelja, se ga izogiba. Prav tam se skriva senčna AI: ne v sistemih, ki jih IT pozna, temveč v orodjih, ki jih je nekdo začel uporabljati, ne da bi to prijavil, ker se je prijava zdela kot priznanje.
Rešitev ni obsežnejši dokument. Je pot eskalacije, ki uporablja strukturo, ki že obstaja — prijavno točko, eskalacijsko linijo, komisijo za tveganja — in tej dodaja AI-specifično vejo na točkah, kjer to dela razliko. Kako se to prilagajanje natančno odvija, tudi za širšo politiko in seznam odločitev nadzornega organa, je opisano v kako pridobite politiko AI, ki jo berejo, ker je vgrajena v to, kar že obstaja in v kako pridobite seznam odločitev nadzora, ki se ujema z obstoječim ritmom odločanja. Oba dokumenta se dotikata iste točke: proces, ki stoji poleg organizacije, se prezre; proces, ki je vanjo vgrajen, se upošteva.
To izhodišče ne velja samo za eskalacijo. Velja za celotno strukturo upravljanja AI. Kdor želi izvedeti, kako je to videti širše — kako se razvrščanje tveganj ujema z obstoječimi kategorijami tveganj, kako prilagajanje obstoječi strukturi tveganj preprečuje nastanek vzporedne birokracije — tam najde temeljno načelo. Enako velja za poročanje navzgor: poročilo za upravni odbor na eni strani deluje le, če so eskalacije, ki so v njem navedene, tudi res prijavljene. In brez nenehnega opazovanja tega, kar se spreminja, vsaka pot eskalacije v enem letu zastara; kaj to pomeni v praksi, je pojasnjeno na spremljanje, ki nekaj prinese.
Pot eskalacije je mogoče napisati šele, ko je znano, kaj lahko eskalira. Dokler nihče ne ve, katera AI teče v organizaciji — vključno s tem, kaj ni bilo odobreno — dokument ostaja teoretičen. Responsible AI Scan zato ne začne pri poti eskalacije, temveč pri popisu: kaj teče, kdo to uporablja in katera stopnja tveganja temu ustreza. Šele na tej podlagi je mogoče napisati pot eskalacije, ki se ujema s tem, kar že obstaja, namesto s tem, kar bi moralo obstajati na papirju.
Poti eskalacije se nanašajo na to, kaj gre narobe z AI, ki se že uporablja. Drugo vprašanje, prav tako premalo obravnavano, je, kje bi AI lahko prevzela samo delo. Delovni sken FTE TO AI za vsako nalogo izračuna, kateri del dela je za to primeren, ne glede na vprašanje, ali se to že dogaja ali je treba to še vzpostaviti.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.