Finantsteenuste pakkujad tunnevad riskijuhtimist kui ametit. Olemas on juba raamistikud krediidiriski, operatsiooniriski, mudeliriski ja vastavuse (compliance) jaoks. Just seetõttu on AI-governance siin teistsugune kui sektorites, mis alustavad puhtalt lehelt: küsimus ei ole selles, kas riskistruktuur on olemas, vaid kas AI on sellesse juba kaasatud või on see arenenud selle kõrval. Krediidiskoori, pettuse tuvastamise või kliendisegmenteerimise mudelid on tihti olemas kauem, kui neile silt 'AI' peale kleebiti. Governance-küsimus ei ole seega: ehitame midagi uut, vaid: kas olemasolev toore sobib enam sellega, mis vahepeal käivitatud on.
Suhe selle vahel, mida mudeliriski komisjon või vastavusosakond teab, ja selle vahel, mida tegelikult kasutatakse, on institutsioonide vahel väga erinev. Ühel on peaaegu kõik kunagi valideerimisprotsessi läbinud, teisel töötavad heakskiidetud mudelite kõrval ka tööriistad, mida üksikud töötajad või meeskonnad on ise kasutama hakanud, ilma et kellelgi oleks neid hinnata lastud. Milline suhe konkreetse organisatsiooni jaoks kehtib, ei saa öelda enne, kui on vaadatud.
Institutsioon, kellel on küps mudeliriski raamistik, eeldab mõnikord, et see katab ka AI. Mudeliriski juhtimine on ehitatud statistilistele mudelitele fikseeritud sisendi ja väljundiga. Keelemudel, mis võtab kokku kliendipäringuid, tööriist, mis genereerib mustandit nõustamiskirjale, või süsteem, mis läbi otsib lepinguid, ei mahu alati selle definitsiooni alla ja libiseb seetõttu läbi olemasoleva lünga. Governance-küsimus ei ole seega mitte üksnes, mis mudelid on olemas, vaid ka, mis tööriistad tunnistatakse AI-ks ja mis mitte.
Samuti on määrav AI roll protsessis. Tööriist, mis toetab nõustajat nõuande koostamisel, on midagi teist kui tööriist, mis genereerib nõuande enda või mõjutab aktsepteerimisotsust. Sama tehnoloogia võib ühes rakenduses olla abivahend ja teises lüli, mis puutub otseselt kokku otsusega kliendi suunas. Klassifitseerimine rolli ja riskitaseme järgi on seetõttu vajalik enne, kui institutsioon saab öelda, milline toore tase millisele rakendusele sobib.
Heaks kiidetud rakenduste IT-nimekiri ei ole see, mida kasutatakse. Finantsteenuste töötajad töötavad kliendifailide, tehinguandmete ja konfidentsiaalse nõustamisinfoga, ja just see rühm ei ole immuunne teksti kleepimise vastu tasuta vestlusaknasse, et saada kiiremini kokkuvõte või mustandvastus. Kuidas see risk konkreetselt avaldub ja mida selle vastu ette võtta, on kirjeldatud ettevõtte andmete tasuta vestlusaknasse jõudmise vältimise lähenemises.
Põhjus, miks see kasutus nähtamatuks jääb, on harva tahtmatus. See on sagedamini tagajärg ebaselgusest selles, mida on lubatud ja mida mitte, kombineerituna ajapressiga. Kes soovib teada, mida tegelikult kasutatakse, peab seda otse küsima, ja see toimib ainult siis, kui töötajad ei karda karistust vastuse eest. Lähenemine, mis sellega arvestab, on selgitatud lehel nende tööriistade nähtavaks tegemise kohta, mida keegi ei ole heaks kiitnud.
Mis finantsteenuseid veel eristab, on harjumus vastutust selgitada. Riskijuht või General Counsel sellel sektoris on harjunud saama näidata järelevaatajale või nõukogule, kuidas risk on hinnatud ja millised meetmed sellest tulenevad. AI puhul tähendab see, et inventuur ei saa olla eraldiseisev olemasolevast riskiraamistikust; see peab sinna sobima, samade riskiklasside jaotusega ja samade aruandlusliinidega, mis juba kehtivad teiste riskikategooriate jaoks. Governance-komplekt, mis pannakse olemasoleva raamistiku kõrvale selle sisse integreerimise asemel, tekitab järgmisel auditiringi ekstra tööd, mitte tugipunkti.
AI-le kohaldatavate reeglite sisu muutub ja hoitakse ajakohasena mujal. See leht kirjeldab mehhanismi: inventeerida, mis töötab, klassifitseerida rolli ja riski järgi ning tulemus integreerida olemasolevatesse governance-struktuuridesse, nii et institutsioonil on järelevaataja või juhatuse küsimuse korral vastus, mis sobib sellega, kuidas riski juba juhitakse.
Pinge olemasoleva toore ja AI uue kasutuse vahel ei ole ainuomane finantsteenustele. Sarnaseid mustreid on näha selles, kuidas energiasektoris korraldatakse AI-le governance, kuidas ehitussektor käsitleb AI-rakendusi töökohal ja disainiprotsessis, ja kuidas kinnisvarasektor vaatab AI-le hindamisel ja haldamisel. Erinev ei ole mehhanism, vaid koht, kuhu risk maandub: panga või kindlustusseltsi puhul on see tihti otsus, mis puudutab otse klienti.
AI kasutuse inventuur ja sellega kaasnev riskiklassifikatsioon näitavad, mis töötab ja millise toore alla see peaks kuuluma. Need ei näita, mida see kasutus tähendab töö jaotusele endale: milline osa ülesandest, nagu nõuandearuande koostamine, faili läbivalgustamine või kliendikõne kokkuvõtte tegemine, on sobiv AI-le üle antuks ja milline osa jääb töötaja juurde. See küsimus jääb governance-skaneeringu ulatusest välja ja sellele vastab FTE TO AI töö-skaneering, mis arvutab ülesande kaupa, milline osa tööst on AI-le üle kantav.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.