Un board care pune AI pe agendă primește de obicei două tipuri de documente: un dosar gros pe care nimeni nu îl citește înainte de ședință, sau un rezumat care spune atât de puțin încât nu rezultă niciun decizie din el. Un raport pentru board de o pagină nu este un rezumat al dosarului. Este o altă întrebare: ce trebuie să știe un membru al boardului pentru a putea își asuma responsabilitatea, și ce este zgomot de fond.
Acea distincție nu este banală. Majoritatea rapoartelor AI pe care le vedem numără sisteme. O pagină care numără doar câte aplicații AI există nu spune nimic unui board despre unde se află riscul. Numărarea este o întrebare de IT. Guvernanța este o întrebare diferită: care aplicații afectează decizii despre persoane, care au fost puse în funcțiune fără supraveghere, și care se încadrează într-o clasă de risc care necesită o semnătură.
O pagină care funcționează cuprinde un număr limitat de elemente, fiecare cu un motiv pentru care este inclus:
Restul — cine a instruit care model, ce furnizor aplică ce condiții, ce măsură tehnică de atenuare a fost aplicată — se încadrează în stratul de dedesubt. Acel strat există, este actualizat și poate fi consultat. Dar nu are ce căuta pe pagina pe care o citește boardul, pentru că atunci boardul nu o va citi.
Motivul pentru care atât de multe procese de guvernanță AI se blochează nu este că nu există proces. Este că există un al doilea proces, alături de cel existent. Un board are deja un comitet de risc, are deja un calendar de audit, are deja un format pentru raportarea riscului operațional, a conformității, a securității informației. Cine adaugă un proces AI separat lângă acestea — cu propria frecvență, propriul șablon, propriul proprietar — cere ceva care este primul lucru eliminat atunci când agenda este prea încărcată. Asta nu se întâmplă din rea-voință. Se întâmplă pentru că un al doilea proces primește, prin definiție, mai puțină atenție decât primul.
Raportul care este citit este cel care se integrează în ritmul existent: aceeași ședință, același format, aceeași modalitate de escaladare care există deja pentru alte riscuri. Modul în care această integrare prinde formă în practică este descris pe pagina despre integrarea în structura de risc existentă, iar modul în care deciziile sunt consemnate ulterior revine în pagina despre o listă de decizii de supraveghere care se integrează în ritmul existent.
Un raport de o pagină este util doar dacă inventarul din spatele lui este corect. Acesta este elementul cel mai frecvent omis: membrii boardului primesc o pagină cu o clasificare a riscului, fără ca nimeni să fi verificat dacă lista subiacentă de aplicații AI este completă. AI-ul din umbră — utilizarea apărută în afara listei IT — dispare astfel în tăcere din imagine, nu pentru că este neimportant, ci pentru că nimeni nu a întrebat de el. Un angajat care folosește un instrument AI fără aprobare nu va raporta acest lucru din proprie inițiativă dacă se așteaptă o sancțiune. Îl raportează abia când întrebările se pun fără a atrage consecințe.
Pagina, dintr-o perspectivă, este astfel vârful unui proces care începe cu inventarul și escaladează pe căi care deja există. Modul în care funcționează această escaladare fără a crea o nouă hierarhie este descris pe pagina despre căi de escaladare care sunt efectiv folosite. Și ce trebuie ținut la zi în mod structurat pentru a putea completa pagina de fiecare dată fără ca aceasta să devină o reconstrucție este descris pe pagina despre monitorizarea care produce efectiv ceva util pentru raportare.
Responsible AI Scan furnizează inventarul, clasificarea și structura de guvernanță care se integrează în ceea ce există deja — inclusiv formatul pentru un raport pe care boardul îl citește efectiv. Scanul propriu-zis este în construcție; cine dorește să beneficieze de el chiar acum se poate înscrie pe lista de așteptare.
Un raport care indică ce parte a muncii se încadrează în riscul AI generează în mod firesc o altă întrebare: ce parte a muncii poate fi preluată chiar de AI. Este un alt calcul, făcut pe sarcină și nu pe sistem, și acel calcul este realizat de scanul de muncă al FTE TO AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.