Finančné inštitúcie poznajú riadenie rizík ako remeslo. Existujú už rámce pre kreditné riziko, operačné riziko, modelové riziko a compliance. Presne to je dôvod, prečo je AI-governance tu iná ako v sektoroch, ktoré začínajú od nuly: otázka nie je, či existuje riziková štruktúra, ale či je AI do nej už zahrnutá, alebo vyrástla vedľa nej. Modely na kreditné hodnotenie, detekciu podvodov alebo segmentáciu klientov existujú často dlhšie, než na ne bol nalepený štítok 'AI'. Otázka governance potom nie je: staviame niečo nové, ale: vyhovuje existujúci dohľad tomu, čo momentálne beží.
Vzťah medzi tým, čo je známe komisii pre modelové riziko alebo compliance oddeleniu, a tým, čo sa skutočne používa, sa medzi inštitúciami výrazne líši. U jednej takmer všetko prešlo procesom validácie, u druhej okrem schválených modelov bežia aj nástroje, ktoré si jednotliví zamestnanci alebo tímy začali používať sami, bez toho, aby ich nechal niekto overiť. Aký vzťah platí pre konkrétnu organizáciu, sa nedá povedať bez toho, aby sa to preskúmalo.
Inštitúcia so zrelým rámcom modelového rizika niekedy predpokladá, že tým je AI pokryté. Riadenie modelového rizika je postavené na statistických modeloch s pevným vstupom a výstupom. Jazykový model, ktorý sumarizuje otázky klientov, nástroj, ktorý generuje koncept textu pre poradenský list, alebo systém, ktorý prehľadáva zmluvy, nespadá vždy do tejto definície a preklzne tak cez existujúcu medzeru. Otázka governance teda nie je len to, aké modely existujú, ale aj to, ktoré nástroje sú rozpoznané ako AI a ktoré nie.
Okrem toho je rozhodujúca aj úloha AI v procese. Nástroj, ktorý podporuje poradcu pri zostavovaní odporúčania, je niečo iné než nástroj, ktorý odporúčanie sám generuje alebo ovplyvňuje rozhodnutie o akceptácii. Rovnaká technológia môže byť v jednom prípade pomôckou a v druhom článkom, ktorý sa priamo dotýka rozhodnutia voči klientovi. Klasifikácia podľa úlohy a úrovne rizika je preto potrebná ešte predtým, ako inštitúcia môže povedať, aká úroveň dohľadu patrí ku ktorej aplikácii.
Zoznam IT oddelenia so schválenými aplikáciami nie je to, čo sa skutočne používa. Zamestnanci vo finančných službách pracujú s klientskymi dokumentmi, transakčnými údajmi a dôvernými poradenskými informáciami, a práve táto skupina nie je imúnna voči vloženiu textu do bezplatného chatového okna, aby rýchlejšie získala súhrn alebo koncept odpovede. Ako sa toto riziko konkrétne prejavuje a čo sa proti nemu dá robiť, je popísané v prístupe proti firemným dátam v bezplatnom chatovom okne.
Dôvod, prečo toto používanie zostáva neviditeľné, je len málokedy neochota. Ide skôr o dôsledok nejasnosti, čo je a čo nie je dovolené, v kombinácii s časovým tlakom. Kto chce vedieť, čo sa skutočne používa, sa musí spýtať priamo, a to funguje iba tak, keď sa zamestnanci neboja sankcie za svoju odpoveď. Prístup, ktorý s tým počíta, je vysvetlený na stránke o zmapovaní nástrojov, ktoré nikto neschválil.
Čo finančné služby ešte odlišuje, je zvyk na skladanie účtov. Risk manažér alebo General Counsel v tomto sektore je zvyknutý ukázať dohľadovému orgánu alebo dozornej rade, ako bolo riziko posúdené a aké opatrenia z toho vyplývajú. Pre AI to znamená, že inventár nemôže stáť oddelene od existujúceho rizikového rámca; musí do neho zapadať, s rovnakým rozdelením do rizikových tried a rovnakými reportovacími linkami, ktoré už platia pre iné rizikové kategórie. Súbor governance, ktorý sa položí vedľa existujúceho rámca, a nie do neho zahrnie, prinesie pri ďalšom kole auditu extra prácu namiesto opory.
Obsah pravidiel, ktoré sa vzťahujú na AI, sa mení a je aktualizovaný inde. Táto stránka popisuje mechanizmus: zinventarizovať, čo beží, klasifikovať podľa úlohy a rizika, a výsledok zakomponovať do existujúcich štruktúr governance, aby inštitúcia mala pri otázke dohľadového orgánu alebo predstavenstva odpoveď, ktorá zapadá do toho, ako sa riziko už riadi.
Napätie medzi existujúcim dohľadom a novým používaním AI nie je jedinečné pre finančné služby. Podobné vzory vidno v tom, ako sa organizuje governance okolo AI v energetickom sektore, v tom, ako stavebníctvo zaobchádza s AI aplikáciami na stavbe a v procese navrhovania, a v tom, ako sa sektor nehnuteľností pozerá na AI pri oceňovaní a správe. Odlišný nie je mechanizmus, ale miesto, kam riziko dopadá: u banky alebo poisťovne je to často rozhodnutie, ktoré priamo zasahuje klienta.
Inventár používania AI a príslušná klasifikácia rizika ukazujú, čo beží a pod aký dohľad by to malo patriť. Neukazujú, čo toto používanie znamená pre samotné rozdelenie práce: ktorá časť úlohy, ako je zostavenie poradenskej správy, prekontrolovanie dokumentácie alebo sumarizácia rozhovoru s klientom, prichádza do úvahy na prevzatie AI a ktorá časť ostáva na zamestnancovi. Táto otázka je mimo dosahu governance skenu a odpovedá na ňu pracovný scan od FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce je možné odovzdať AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.