Ponudniki finančnih storitev poznajo obvladovanje tveganj kot stroko. Že obstajajo okviri za kreditno tveganje, operativno tveganje, modelno tveganje in skladnost. Prav zato je AI-governance tu drugačna kot v sektorjih, ki začenjajo z belim listom: vprašanje ni, ali obstaja struktura za obvladovanje tveganj, temveč ali je AI v njej že zajet ali pa je zrasel mimo nje. Modeli za kreditno ocenjevanje, odkrivanje goljufij ali segmentacijo strank pogosto obstajajo že dlje, kot je bila nanje nalepljena oznaka 'AI'. Vprašanje governance takrat ni: ali graditi nekaj novega, temveč: ali obstoječi nadzor še ustreza tistemu, kar se je medtem začelo uporabljati.
Razmerje med tem, kaj je znano odboru za modelno tveganje ali oddelku za skladnost, in tem, kaj se dejansko uporablja, se med institucijami zelo razlikuje. Pri eni je bilo praktično vse nekoč preverjeno skozi postopek validacije, pri drugi pa poleg odobrenih modelov delujejo tudi orodja, ki so jih posamezni zaposleni ali ekipe začeli uporabljati sami, brez da bi jih kdo dal v presojo. Katero razmerje velja za posamezno organizacijo, ni mogoče ugotoviti brez neposrednega pregleda.
Institucija z zrelim okvirom za modelno tveganje včasih predvideva, da je s tem zajet tudi AI. Obvladovanje modelnega tveganja je zgrajeno na statističnih modelih z določenim vhodom in izhodom. Jezikovni model, ki povzema vprašanja strank, orodje, ki generira osnutek besedila za svetovalno pismo, ali sistem, ki preiskuje pogodbe, ne sodi vedno v to definicijo in zato zdrsne skozi obstoječo vrzel. Vprašanje governance torej ni le, kateri modeli obstajajo, temveč tudi, katera orodja so prepoznana kot AI in katera niso.
Poleg tega je odločilna vloga AI v procesu. Orodje, ki podpira svetovalca pri pripravi nasveta, je nekaj drugega kot orodje, ki nasvet ustvari samo, ali sistem, ki vpliva na odločitev o sprejemu. Ista tehnologija je lahko v eni aplikaciji pripomoček, v drugi pa člen, ki neposredno vpliva na odločitev v razmerju do stranke. Razvrščanje glede na vlogo in raven tveganja je zato potrebno, preden lahko institucija pove, katera raven nadzora ustreza kateri uporabi.
Seznam IT-oddelka z odobrenimi aplikacijami ni tisto, kar se dejansko uporablja. Zaposleni v finančnih storitvah delajo z dosjeji strank, transakcijskimi podatki in zaupnimi svetovalnimi informacijami, in prav ta skupina ni imuna na to, da besedilo prilepi v brezplačno klepetalno okno, da hitreje pridobi povzetek ali osnutek odgovora. Kako se to tveganje konkretno kaže in kaj je mogoče storiti proti njemu, je opisano v pristopu proti uhajanju poslovnih podatkov v brezplačno klepetalno okno.
Razlog, da ta uporaba ostaja neopažena, redko izhaja iz nepripravljenosti. Pogosteje je posledica nejasnosti o tem, kaj je dovoljeno in kaj ni, v kombinaciji s časovnim pritiskom. Kdor želi vedeti, kaj se dejansko uporablja, mora to vprašati neposredno, in to deluje le, če se zaposleni ne bojijo sankcije zaradi svojega odgovora. Pristop, ki upošteva to, je pojasnjen na strani o prikazu orodij, ki jih ni nihče odobril.
Kar finančne storitve prav tako razlikuje, je navada odgovarjanja. Upravljavec tveganj ali generalni pravni svetovalec v tem sektorju je vajen, da nadzorniku ali nadzornemu odboru lahko pokaže, kako je bilo tveganje ocenjeno in katere ukrepe to prinaša. Za AI to pomeni, da inventar ne more stati ločeno od obstoječega okvira za obvladovanje tveganj; vanj se mora vključiti, z enako razdelitvijo v razrede tveganja in enakimi linijami poročanja, ki že veljajo za druge kategorije tveganj. Nabor ukrepov governance, ki je postavljen zraven obstoječega okvira namesto vanj vključen, prinese ob naslednjem krogu revizije dodatno delo namesto opore.
Vsebina pravil, ki veljajo za AI, se spreminja in se posodablja drugje. Ta stran opisuje mehanizem: popis tega, kaj deluje, razvrščanje glede na vlogo in tveganje, ter vključitev rezultata v obstoječe strukture governance, tako da ima institucija ob vprašanju nadzornika ali vodstva odgovor, ki se ujema s tem, kako se tveganje že obvladuje.
Napetost med obstoječim nadzorom in novo uporabo AI ni edinstvena za finančne storitve. Podobne vzorce je mogoče opaziti v načinu, kako se oblikuje governance okoli AI v energetskem sektorju, v načinu, kako se gradbeništvo spopada z uporabo AI na delovišču in v procesu projektiranja, ter v tem, kako nepremičninski sektor gleda na AI pri cenitvah in upravljanju. Razlikuje se ne mehanizem, temveč mesto, kjer tveganje pristane: pri banki ali zavarovalnici je to pogosto odločitev, ki neposredno vpliva na stranko.
Inventar uporabe AI in ustrezna razvrstitev tveganja pokažeta, kaj deluje in pod kakšen nadzor bi to moralo spadati. Ne pokažeta pa, kaj ta uporaba pomeni za razdelitev samega dela: kateri del naloge, kot je priprava svetovalnega poročila, pregled dosjeja ali povzemanje pogovora s stranko, je primeren za to, da ga prevzame AI, in kateri del ostane pri zaposlenem. To vprašanje presega obseg pregleda governance in nanj odgovori delovni pregled podjetja FTE TO AI, ki za vsako nalogo izračuna, kateri del dela je mogoče prenesti na AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.