A pénzügyi szolgáltatók szakmájuk részeként ismerik a kockázatkezelést. Már léteznek keretrendszerek a hitelkockázatra, működési kockázatra, modellkockázatra és megfelelőségre. Pontosan ezért más itt az AI-governance helyzete, mint azokban a szektorokban, amelyek tiszta lappal kezdenek: a kérdés nem az, hogy létezik-e kockázati struktúra, hanem az, hogy az AI már be van-e ágyazva abba, vagy mellette nőtt-e fel. A hitelpontozásra, csalásfelderítésre vagy ügyfélszegmentálásra szolgáló modellek gyakran régebb óta léteznek, mint amióta rájuk került az 'AI' címke. A governance-kérdés ekkor nem az, hogy építünk-e valami újat, hanem az, hogy a meglévő felügyelet még illik-e arra, amit közben valójában használnak.
Az arány, amely a modellkockázati bizottság vagy a compliance-osztály által ismert dolgok és a valóságban használt eszközök között fennáll, intézményről intézményre nagyon eltérő. Van, ahol csaknem minden átment már egy validációs folyamaton, máshol a jóváhagyott modellek mellett olyan eszközök is futnak, amelyeket egyes munkatársak vagy csapatok maguktól kezdtek használni, anélkül hogy valaki ellenőrizte volna azokat. Az, hogy egy adott szervezetnél melyik arány áll fenn, nem mondható meg anélkül, hogy ezt megvizsgálták volna.
Egy érett modellkockázati keretrendszerrel rendelkező intézmény néha abból indul ki, hogy ez az AI-t is lefedi. A modellkockázat-kezelés rögzített bemenettel és kimenettel rendelkező statisztikai modellekre épül. Egy nyelvi modell, amely ügyfélkérdéseket foglal össze, egy eszköz, amely tanácsadói levélhez tervezett szöveget generál, vagy egy rendszer, amely szerződéseket keres át, nem mindig esik ebbe a definícióba, és ezáltal átcsúszik a meglévő hálón. A governance-kérdés tehát nem csak az, milyen modellek léteznek, hanem az is, mely eszközöket ismerik fel AI-ként, és melyeket nem.
Emellett meghatározó az AI szerepe a folyamatban. Egy eszköz, amely egy tanácsadót támogat egy javaslat összeállításában, más, mint egy eszköz, amely magát a javaslatot generálja, vagy egy elfogadási döntést befolyásol. Ugyanaz a technológia az egyik alkalmazásban segédeszköz lehet, a másikban pedig olyan láncszem, amely közvetlenül kapcsolódik egy ügyfél felé irányuló döntéshez. A szerep és a kockázati szint szerinti osztályozás ezért szükséges, mielőtt egy intézmény kimondhatná, milyen szintű felügyelet illik melyik alkalmazáshoz.
A jóváhagyott alkalmazások IT-listája nem az, amit tényleg használnak. A pénzügyi szolgáltatások munkatársai ügyféldossziékkal, tranzakciós adatokkal és bizalmas tanácsadási információkkal dolgoznak, és éppen ez a csoport nem immunis arra, hogy egy szöveget egy ingyenes chatablakba illesszen be, hogy gyorsabban kapjon egy összefoglalót vagy egy választervezetet. Az, hogy ez a kockázat konkrétan hogyan jelenik meg, és mit lehet tenni ellene, le van írva a vállalati adatok ingyenes chatablakban való megjelenése elleni megközelítés oldalon.
Az oka annak, hogy ez a használat láthatatlan marad, ritkán rosszindulat. Gyakrabban a bizonytalanság következménye arról, mi szabad és mi nem, időnyomással kombinálva. Aki tudni akarja, mit használnak valójában, annak közvetlenül rá kell kérdeznie erre, és ez csak akkor működik, ha a munkatársak nem félnek attól, hogy a válaszért szankciót kapnak. Egy erre figyelemmel lévő megközelítés bemutatása a senki által jóvá nem hagyott eszközök feltérképezéséről szóló oldalon található.
Ami a pénzügyi szolgáltatásokat még megkülönbözteti, az az elszámolás megszokott gyakorlata. Egy kockázatkezelő vagy General Counsel ebben a szektorban hozzászokott, hogy egy felügyeleti szervnek vagy a felügyelőbizottságnak megmutassa, hogyan értékeltek egy kockázatot, és milyen intézkedések következnek belőle. Az AI esetében ez azt jelenti, hogy egy leltár nem állhat a meglévő kockázati keretrendszertől függetlenül; bele kell illeszkednie, ugyanazzal a kockázati osztályokra bontással és ugyanazokkal a jelentési vonalakkal, amelyek már más kockázati kategóriákra is vonatkoznak. Egy governance-készlet, amelyet a meglévő keret mellé, nem pedig abba illesztve helyeznek el, a következő auditkörben inkább extra munkát eredményez, mint fogódzót.
Az AI-ra vonatkozó szabályok tartalma változik, és máshol tartják naprakészen. Ez az oldal a mechanizmust írja le: felleltározni, mi fut, osztályozni szerep és kockázat szerint, és az eredményt beágyazni a meglévő governance-struktúrákba, hogy egy intézmény a felügyeleti szerv vagy a vezetés kérdésére olyan választ tudjon adni, amely összhangban van azzal, ahogyan a kockázatot már kezelik.
A meglévő felügyelet és az AI új használata közötti feszültség nem egyedi a pénzügyi szolgáltatásokra. Hasonló mintázatok láthatók abban, ahogyan az energiaszektorban alakítják ki az AI körüli governance-t, abban, ahogyan az építőipar kezeli az AI-alkalmazásokat a munkaterületen és a tervezési folyamatban, és abban, ahogyan az ingatlanszektor tekint az AI-ra az értékbecslésben és a kezelésben. Ami eltér, nem a mechanizmus, hanem az a hely, ahol a kockázat landol: egy banknál vagy biztosítónál ez gyakran egy döntés, amely közvetlenül érinti az ügyfelet.
Az AI-használat leltára és a hozzá tartozó kockázati osztályozás megmutatja, mi fut, és milyen felügyelet alá kellene tartoznia. Nem mutatják meg, mit jelent ez a használat a munka felosztására nézve: melyik része egy feladatnak, mint egy tanácsadói jelentés összeállítása, egy dosszié átvilágítása vagy egy ügyféltárgyalás összefoglalása, alkalmas arra, hogy az AI vegye át, és melyik része marad a munkatársnál. Ez a kérdés kívül esik egy governance-scan hatókörén, és a FTE TO AI munkascanje válaszolja meg, amely feladatonként kiszámítja, mekkora rész adható át az AI-nak.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.