Orice organizație cu o anumită dimensiune are deja o structură de risc. O comisie de risc, un comitet de audit, o linie de funcții de control, un format în care riscurile sunt înregistrate, discutate și încheiate. Acel proces are un ritm, un limbaj și proprietari care știu la ce să se aștepte.
Dacă guvernanța AI este plasată în plus față de acesta — o comisie proprie, o linie de raportare proprie, un calendar propriu — atunci apare un al doilea proces. Și un al doilea proces alături de un proces existent nu se execută. Nu pentru că oamenii nu vor, ci pentru că capacitatea este deja alocată procesului care există. Cine tratează riscul AI ca subiect separat cere timp suplimentar, ședințe suplimentare și rapoarte suplimentare pe lângă tot ce se desfășoară deja. Acest lucru pierde, de fiecare dată.
Inventarierea și clasificarea sistemelor AI nu produc un cadru de risc nou. Ele produc informații pentru cadrul care există deja. Concret, asta înseamnă:
Setul de guvernanță care rezultă din scanare nu este, prin urmare, un document de sine stătător. Este un set scris pentru a se încadra în ce există deja: matricea de risc, structura de raportare, liniile de escaladare. Unde aceste lucruri nu funcționează încă așa cum ar trebui, se aplică aceeași logică ca la AI: este vorba de integrare, nu de un sistem nou. Cum se prezintă asta pentru o componentă concretă este descris în cum se integrează o politică AI în procesul de decizie existent în loc să stea separat de acesta, în cum se integrează o listă de decizii de oversight în întâlnirea care există deja și în cum se integrează căile de escaladare pentru AI în linia de incidente existentă.
Un cadru de risc AI separat sună riguros, dar creează un circuit paralel. Apar două adevăruri: raportarea de risc pe care conducerea o cunoaște deja și o raportare AI care există în paralel, cu propriile definiții ale nivelului de risc și proprietari proprii. În momentul în care aceste două circuite nu se aliniază — și asta se întâmplă mai devreme sau mai târziu — nu este clar care circuit are autoritate. Acesta este exact scenariul în care supravegherea există pe hârtie, dar în practică nimeni nu poate fi tras la răspundere.
Setul de guvernanță care rezultă din inventariere este, prin urmare, orientat spre a se dizolva în procesul existent. Niciun tablou de bord nou, nicio ședință nouă, niciun formular de aprobare nou — ci o extindere a formatului pe care comisia de risc îl folosește deja, cu AI ca element permanent. Acesta este și modul în care un membru al conducerii are folos de el: nu ca raport AI separat care este răsfoit, ci ca rubrică în raportarea care este deja citită. Cum se prezintă acea raportare atunci când este suficient de compactă pentru a fi efectiv citită este descris în structura unui raport pentru consiliu care încape pe o pagină.
Motivul pentru care alinierea la structura existentă este și din punct de vedere juridic și organizatoric alegerea mai puternică ține de demonstrabilitate. Un organism de supraveghere sau un auditor care întreabă cum este gestionat riscul AI preferă răspunsul „prin procesul de risc pe care îl derulăm deja, cu AI ca element permanent” decât „printr-un traiect AI separat care se desfășoară alături de procesul obișnuit”. Primul răspuns arată o organizație care gestionează riscul integrat. Al doilea arată o organizație care tratează AI ca excepție — cu riscul ca acea excepție, de îndată ce atenția se deplasează, să fie abandonată.
Aceeași logică se aplică monitorizării. Un tablou de bord AI separat pe care nimeni nu îl consultă nu aduce nimic. Monitorizarea integrată în imaginea de ansamblu pe care managerii de risc și conducerea o folosesc deja este observată pentru că se află deja în locul în care se privește. Ce este necesar pentru asta este explicat în cum se integrează monitorizarea sistemelor AI în imaginea de ansamblu care este deja folosită și, mai general, în cum se construiește în practică alinierea la structura de risc existentă.
O structură de risc în care AI este integrat răspunde la întrebarea ce funcționează și cine este responsabil pentru aceasta. Acesta este un răspuns diferit de întrebarea ce ar putea prelua AI în activitatea zilnică. La a doua întrebare răspunde scanarea de lucru a FTE TO AI, care calculează pe sarcină ce parte din muncă este eligibilă pentru preluare. Cele două răspunsuri se completează reciproc: structura de risc determină în ce condiții AI poate fi utilizat, scanarea de lucru arată unde această utilizare schimbă efectiv munca.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.