Furnizorii de servicii financiare cunosc gestionarea riscurilor ca meserie. Există deja cadre pentru riscul de credit, riscul operațional, riscul de model și conformitate. Exact de aceea guvernanța AI se prezintă altfel aici decât în sectoare care pornesc de la zero: întrebarea nu este dacă există o structură de risc, ci dacă AI a fost deja integrată în ea sau a crescut pe lângă ea. Modelele de scoring de credit, detectare a fraudei sau segmentare a clienților există adesea de mai mult timp decât etichetei de „AI” care le-a fost aplicată. Întrebarea de guvernanță nu este atunci: construim ceva nou, ci: mai corespunde supravegherea existentă cu ceea ce funcționează în prezent.
Raportul dintre ceea ce este cunoscut de o comisie de risc de model sau de departamentul de conformitate și ceea ce este efectiv utilizat diferă mult de la o instituție la alta. La una, aproape totul a trecut vreodată printr-un proces de validare, la alta, alături de modelele aprobate, funcționează și instrumente pe care angajați sau echipe individuale au început să le folosească singuri, fără ca nimeni să le fi verificat. Care raport este valabil pentru o organizație specifică nu poate fi indicat fără a examina situația respectivă.
O instituție cu un cadru matur de risc de model presupune uneori că astfel AI este acoperită. Gestionarea riscului de model a fost construită pe modele statistice cu input și output fixe. Un model de limbaj care rezumă întrebările clienților, un instrument care generează un text de concept pentru o scrisoare de consultanță sau un sistem care caută în contracte nu se încadrează întotdeauna în această definiție și astfel se strecoară prin plasa existentă. Întrebarea de guvernanță nu este deci doar ce modele există, ci și care instrumente sunt recunoscute ca AI și care nu.
În plus, rolul AI în proces este determinant. Un instrument care sprijină un consultant la elaborarea unui sfat este altceva decât un instrument care generează el însuși sfatul sau influențează o decizie de acceptare. Aceeași tehnologie poate fi într-o aplicație un instrument auxiliar, iar în alta o verigă care afectează direct o decizie față de un client. Clasificarea pe rol și nivel de risc este de aceea necesară înainte ca o instituție să poată spune care nivel de supraveghere se aplică cărei aplicații.
Lista IT a aplicațiilor aprobate nu reprezintă ceea ce se folosește efectiv. Angajații din serviciile financiare lucrează cu dosare ale clienților, date de tranzacții și informații confidențiale de consultanță, iar exact acest grup nu este imun la a lipi un text într-o fereastră de chat gratuită pentru a obține mai rapid un rezumat sau un răspuns de concept. Modul concret în care se manifestă acest risc și ce se poate face împotriva lui este descris în abordarea împotriva datelor companiei într-o fereastră de chat gratuită.
Motivul pentru care această utilizare rămâne invizibilă este rareori reaua-voință. Este mai adesea o consecință a lipsei de claritate privind ce este permis și ce nu, combinată cu presiunea timpului. Cine dorește să știe ce se folosește efectiv trebuie să întrebe direct despre asta, și acest lucru funcționează doar dacă angajații nu se tem de o sancțiune pentru răspuns. O abordare care ține cont de acest lucru este explicată pe pagina despre identificarea instrumentelor pe care nimeni nu le-a aprobat.
Ce distinge, de asemenea, serviciile financiare este obiceiul de a da socoteală. Un manager de risc sau un General Counsel din acest sector este obișnuit să poată arăta unei autorități de supraveghere sau consiliului de supraveghere cum a fost evaluat un risc și ce măsuri rezultă din aceasta. Pentru AI, acest lucru înseamnă că un inventar nu poate fi separat de cadrul de risc existent; trebuie să se încadreze în el, cu aceeași clasificare pe categorii de risc și aceleași linii de raportare care se aplică deja altor categorii de risc. Un set de guvernanță care este plasat alături de cadrul existent, în loc să fie integrat în el, generează la următoarea rundă de audit muncă suplimentară în loc de sprijin.
Conținutul regulilor care se aplică AI se schimbă și este actualizat în altă parte. Această pagină descrie mecanismul: inventarierea a ceea ce funcționează, clasificarea pe rol și risc, și integrarea rezultatului în structurile de guvernanță existente, astfel încât o instituție să aibă la o întrebare din partea autorității de supraveghere sau a consiliului de administrație un răspuns care se aliniază cu modul în care riscul este deja gestionat.
Tensiunea dintre supravegherea existentă și noua utilizare a AI nu este unică pentru serviciile financiare. Modele comparabile se pot observa în modul în care este organizată guvernanța AI în sectorul energetic, în modul în care construcțiile gestionează aplicațiile AI pe șantier și în procesul de proiectare, și în modul în care sectorul imobiliar privește AI în evaluare și administrare. Ceea ce diferă nu este mecanismul, ci locul unde aterizează riscul: la o bancă sau un asigurător, aceasta este adesea o decizie care afectează direct un client.
Un inventar al utilizării AI și clasificarea de risc corespunzătoare arată ce funcționează și sub ce supraveghere ar trebui să se încadreze acest lucru. Nu arată ce înseamnă această utilizare pentru organizarea muncii propriu-zise: care parte a unei sarcini, cum ar fi elaborarea unui raport de consultanță, verificarea unui dosar sau rezumarea unei convorbiri cu clientul, se califică pentru a fi preluată de AI și care parte rămâne la un angajat. Această întrebare se situează în afara domeniului unui scan de guvernanță și este răspunsă de scanul de lucru al FTE TO AI, care calculează pe sarcină ce parte a muncii poate fi transferată către AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.