Ca administrator, nu verificați personal care model AI produce ce rezultat. Vă puneți o altă întrebare: dacă lucrurile ies rău, pot arăta că am știut, că am analizat situația și că am făcut ceva în privința ei. Această întrebare este de natură administrativă, nu tehnică. Iar răspunsul pe care nu îl acceptați este o listă de aplicații aprobate de IT. Nu pentru că lista ar fi incorectă, ci pentru că este incompletă. Ea descrie ce s-a solicitat, nu ce se folosește efectiv.
Riscul pentru un administrator nu este că un angajat folosește o AI de limbaj pentru a scrie un concept. Riscul este că nu puteți spune nimic despre asta în momentul în care contează: în cazul unui incident, al unei întrebări din partea unui organism de supraveghere, al unei chestiuni de răspundere. Capacitatea de a demonstra este atunci singurul lucru care contează. Nu dacă puteați ști la momentul respectiv, ci dacă puteți arăta că a existat o structură prin care să știți. Un administrator care spune „nu aveam vizibilitate asupra acestui lucru” se află într-o poziție diferită față de un administrator care spune „acesta se încadra într-o categorie pe care am tratat-o în mod conștient în acest fel”. Diferența dintre aceste două afirmații este ceea ce oferă acest scan.
Scopul nu este să interziceți sau să încetiniți orice utilizare a AI. Cea mai mare parte din ceea ce angajații au început să folosească singuri este funcțională și produce rezultate. Câștigul pentru un administrator nu constă în frânarea acestui lucru, ci în capacitatea de a face distincția: aceasta are risc scăzut și poate continua, aceasta afectează date cu caracter personal sau decizii referitoare la persoane și trebuie tratată diferit, aceasta este neclară și trebuie investigată. Fără această distincție, tratați totul la fel — iar acest lucru este, de obicei, prea strict pentru majoritate și prea permisiv pentru excepția care contează cu adevărat.
AI-ul din umbră nu apare din rea-voință. Apare pentru că un angajat avea o problemă și a găsit un instrument care a rezolvat-o, fără să existe un proces de solicitare mai rapid decât instrumentul însuși. Aceste instrumente nu apar într-o listă de achiziții. Apar abia atunci când cineva întreabă despre ele — și doar dacă întrebarea nu conduce imediat la o sancțiune. O organizație care dorește să identifice AI-ul din umbră trebuie mai întâi să clarifice că raportarea nu constituie un risc. Aceasta este o alegere administrativă, nu una tehnică.
Responsible AI Scan începe cu un inventar al a ceea ce se folosește în realitate, independent de ce a fost vreodată aprobat. Apoi, fiecare utilizare este clasificată în funcție de rol — cine o folosește, în ce scop — și de nivelul de risc. Această clasificare conduce la un set de guvernanță: un mod de a trata fiecare categorie care se aliniază la structura de risc pe care organizația dumneavoastră o are deja, în loc de un cadru nou paralel. Conținutul propriu-zis al regulilor — ce obligații se aplică exact, în ce termene — este tratat în altă parte; nu asupra acestui aspect se concentrează acest scan. Acest scan se concentrează pe mecanism: să se știe ce se folosește, să se poată clasifica, și să se poată demonstra că acest lucru a fost făcut.
Cu o clasificare pe rol și nivel de risc, puteți prezenta unui organism de supraveghere, unui auditor sau unui consiliu de supraveghere o structură, nu o promisiune. Puteți indica care categorii necesită atenție și care nu. Puteți raporta despre acest lucru fără să fiți nevoit să explicați de fiecare dată din nou de ce nu ați știut ceva. Aceasta este o poziție diferită față de a explica reactiv de ce un instrument a apărut neobservat.
Întrebarea privind riscul AI se prezintă diferit în funcție de funcție. Ce trebuie să știe un CIO despre riscul AI se referă la sisteme și infrastructură; ce trebuie să știe un General Counsel despre riscul AI se referă la răspundere și probațiune; ce trebuie să știe un manager de risc despre riscul AI se referă la modul în care riscul AI se încadrează în taxonomia de risc existentă. Ca administrator, aveți de-a face cu toate cele trei, dar nu sunteți dumneavoastră cel care efectuează clasificarea — sunteți cel care trebuie să poată vedea că a fost făcută.
Responsible AI Scan este în construcție. Momentan nu există un instrument pe care să îl puteți porni și din care să rezulte imediat un raport. Cei interesați se pot înscrie pe lista de așteptare; nu se oferă nimic care nu există încă și nu se promite nimic în privința momentului sau a rezultatului.
Înainte de a putea stabili dacă utilizarea AI implică riscuri, este adesea mai util să știți ce înseamnă AI-ul pentru activitatea propriu-zisă: ce parte a unei sarcini poate fi preluată și ce parte nu. Această întrebare este apropiată de întrebarea privind riscul, dar nu este identică — o sarcină care poate fi preluată în mare parte de AI nu este automat riscantă, iar o sarcină care nu poate fi preluată nu este automat sigură. Scanul de muncă al FTE TO AI calculează, pentru fiecare sarcină, ce parte din activitate poate fi preluată de AI, oferind astfel o bază pe care întrebarea privind riscul poate fi formulată mai precis decât pe baza unei simple liste de aplicații aprobate.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.