Financijski davatelji usluga poznaju upravljanje rizicima kao struku. Već postoje okviri za kreditni rizik, operativni rizik, rizik modela i usklađenost. Upravo je to razlog zašto AI-governance ovdje izgleda drugačije nego u sektorima koji počinju od nule: pitanje nije postoji li struktura rizika, nego je li AI u nju već uključen ili je narastao paralelno s njom. Modeli za kreditno bodovanje, otkrivanje prijevara ili segmentaciju klijenata često postoje duže nego što im je zalijepljena oznaka 'AI'. Pitanje governance-a tada nije: gradimo li nešto novo, nego: obuhvaća li postojeći nadzor još i ono što je u međuvremenu zaživjelo.
Odnos između onoga što je poznato odboru za rizik modela ili odjelu za usklađenost i onoga što se stvarno koristi, znatno se razlikuje od institucije do institucije. Kod jedne je gotovo sve nekad prošlo kroz proces validacije, kod druge se, uz odobrene modele, koriste i alati koje su pojedini zaposlenici ili timovi sami počeli koristiti, bez da ih je bilo tko provjerio. Koji se omjer odnosi na konkretnu organizaciju, nije moguće utvrditi bez uvida u stanje.
Institucija sa zrelim okvirom za rizik modela ponekad pretpostavlja da je time AI već pokriven. Upravljanje rizikom modela izgrađeno je na statističkim modelima s fiksnim ulazom i izlazom. Jezični model koji sažima upite klijenata, alat koji generira nacrt teksta za savjetodavno pismo, ili sustav koji pretražuje ugovore, ne uklapa se uvijek u tu definiciju i tako proklizi kroz postojeću mrežu. Pitanje governance-a stoga nije samo koji modeli postoje, nego i koji se alati prepoznaju kao AI, a koji ne.
Osim toga, ključna je uloga AI-ja u procesu. Alat koji podupire savjetnika u izradi savjeta nešto je drugo od alata koji sam generira savjet ili utječe na odluku o prihvatu. Ista tehnologija može u jednoj primjeni biti pomagalo, a u drugoj karika koja izravno utječe na odluku prema klijentu. Klasifikacija po ulozi i razini rizika stoga je potrebna prije nego što institucija može reći koja razina nadzora odgovara kojoj primjeni.
IT popis odobrenih aplikacija nije isto što se stvarno koristi. Zaposlenici u financijskim uslugama radi s dosjeima klijenata, transakcijskim podacima i povjerljivim savjetodavnim informacijama, i baš ta skupina nije imuna na lijepljenje teksta u besplatni chat prozor radi bržeg dobivanja sažetka ili nacrta odgovora. Kako se taj rizik konkretno očituje i što se protiv njega može poduzeti, opisano je u pristupu protiv poslovnih podataka u besplatnom chat prozoru.
Razlog zašto ova uporaba ostaje nevidljiva rijetko je nevoljkost. Češće je posljedica nejasnoće oko toga što je dopušteno a što nije, u kombinaciji s pritiskom vremena. Onaj tko želi znati što se stvarno koristi, mora to izravno pitati, a to funkcionira samo ako se zaposlenici ne boje sankcije na svoj odgovor. Pristup koji uzima to u obzir objašnjen je na stranici o mapiranju alata koje nitko nije odobrio.
Ono što financijske usluge također razlikuje jest navika polaganja računa. Voditelj rizika ili glavni pravni savjetnik u ovom sektoru navikao je moći nadzornom tijelu ili nadzornom odboru pokazati kako je rizik procijenjen i koje mjere iz toga slijede. Za AI to znači da inventar ne može stajati odvojeno od postojećeg okvira za upravljanje rizicima; mora se uklopiti u njega, s istom podjelom u rizične klase i istim linijama izvještavanja koje već vrijede za druge kategorije rizika. Skup pravila za governance koji se stavlja pored postojećeg okvira, umjesto da bude uključen u njega, kod sljedeće revizije donosi dodatni posao umjesto oslonca.
Sadržaj pravila koja se primjenjuju na AI mijenja se i ažurira se na drugom mjestu. Ova stranica opisuje mehanizam: inventarizirati što je u uporabi, klasificirati po ulozi i riziku, i rezultat ugraditi u postojeće strukture governance-a, tako da institucija na pitanje nadzornog tijela ili uprave ima odgovor koji se uklapa u način na koji se rizik već upravlja.
Napetost između postojećeg nadzora i nove uporabe AI-ja nije jedinstvena za financijske usluge. Slični se obrasci vide u načinu na koji se uređuje governance oko AI-ja u energetskom sektoru, u načinu na koji se građevinski sektor odnosi prema primjenama AI-ja na gradilištu i u procesu projektiranja, i u tome kako sektor nekretnina promatra AI u procjeni vrijednosti i upravljanju. Razlika nije u mehanizmu, nego u mjestu gdje rizik pada: kod banke ili osiguravatelja to je često odluka koja izravno utječe na klijenta.
Inventar uporabe AI-ja i pripadajuća klasifikacija rizika pokazuju što je u uporabi i pod kojim bi nadzorom to trebalo biti. Ne pokazuju što ta uporaba znači za samu podjelu posla: koji dio zadatka, kao izrada savjetodavnog izvještaja, pregled dosjea ili sažimanje razgovora s klijentom, dolazi u obzir da ga preuzme AI, a koji dio ostaje kod zaposlenika. To pitanje izvan je dosega governance-skena i odgovor na njega daje radna skena tvrtke FTE TO AI, koja po zadatku izračunava koji se dio posla može prenijeti na AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.