Întrebarea dacă o aplicație de AI din organizația dvs. este considerată risc ridicat nu este o întrebare la care răspundeți o singură dată și pe care apoi o bifați. Este rezultatul unui număr de factori care, împreună, determină cât de mult contează o aplicație. Dacă unul dintre acești factori se schimbă, este posibil ca și clasificarea să se schimbe. Acest lucru face din clasificarea riscurilor mai puțin o chestiune de completare a unui formular și mai mult o chestiune de urmărire continuă.
Această pagină descrie mecanismul din spatele acelei clasificări: de ce depinde și ce se întâmplă atunci când situația se schimbă. Definițiile și pragurile legale actuale se găsesc în altă parte; aici este vorba despre ceea ce trebuie să puteți vedea și demonstra în propria organizație.
Mai mulți factori joacă un rol structural în întrebarea dacă o aplicație contează substanțial.
Primul este domeniul în care este utilizată aplicația. Unele domenii — gândiți-vă la decizii privind persoane, șansele lor sau drepturile lor — contează mai mult decât aplicațiile care sunt exclusiv interne și de sprijin. Ceea ce face exact aplicația în cadrul acelui domeniu face, de asemenea, o diferență: un sistem care oferă consiliere contează diferit față de un sistem care decide automat.
Al doilea factor este rolul pe care îl joacă organizația dvs. în raport cu sistemul. Îl construiți dvs. înșivă, îl achiziționați sau utilizați un serviciu în care AI este integrat fără ca dvs. să îl fi achiziționat ca atare? Rolul pe care îl îndepliniți — furnizor sau utilizator — determină, printre altele, ce obligații vă revin dvs. și ce parte a responsabilității rămâne la un furnizor.
Al treilea factor este ce se întâmplă cu modelul după prima implementare. Un sistem care este utilizat neschimbat, așa cum a fost livrat, reprezintă o situație diferită față de un sistem pe care îl reglați fin (fine-tuning), îl reconfigurați sau îl lăsați să învețe pe date proprii. Ce se schimbă atunci când adaptați dvs. înșivă un model este, prin urmare, o întrebare care trebuie să fie răspunsă separat — o adaptare poate face ca un sistem să treacă la o altă categorie.
Al patrulea factor este sfera de acțiune: câte persoane sunt afectate, cu ce frecvență și cât de reversibilă este o eroare. O aplicație care este utilizată ocazional de o echipă mică contează diferit față de o aplicație care influențează zilnic decizii pentru mii de clienți.
Acești factori nu sunt statici. O aplicație care astăzi este considerată risc limitat poate nu mai fi așa mâine — nu pentru că regulile s-au schimbat, ci pentru că aplicația însăși s-a schimbat. Un proiect pilot care se extinde la întreaga organizație, un instrument intern care începe să afecteze un proces de client, un model care este reinstruit pe date noi: fiecare dintre acești pași poate face ca clasificarea să se schimbe.
Aceasta înseamnă că clasificarea nu este un exercițiu unic. Este o întrebare care trebuie pusă din nou de fiecare dată când se schimbă ceva referitor la ceea ce face un sistem, pe cine afectează sau cine îl gestionează. O structură de guvernanță care nu urmărește acest lucru rămâne în urma practicii.
Nu fiecare aplicație de AI trebuie să parcurgă întregul acest traseu. O parte din ceea ce funcționează în cadrul unei organizații se află în afara sferei de aplicare a clasificării riscurilor — de exemplu, pentru că nu afectează decizii privind persoane sau pentru că are exclusiv o funcție de sprijin, nedecisivă. Unde se află exact această limită și ce aplicații se află în afara sferei de aplicare depinde de aceiași factori descriși mai sus: domeniu, rol, adaptare și sferă de acțiune. Nu este, prin urmare, o listă separată, ci cealaltă față a aceleiași evaluări.
O clasificare în sine nu schimbă nimic. Ea determină doar ce pași următori sunt necesari și cu ce urgență. Unele acțiuni sunt necesare imediat, altele pot fi programate — și ce trebuie să se întâmple acum și ce poate fi programat depinde, la rândul său, de cât de mult contează aplicația și câte persoane afectează.
Pentru a face acești pași vizibili și trasabili, deciziile privind clasificarea și acțiunile ulterioare trebuie să fie consemnate undeva — nu ca notițe separate, ci ca parte a unui registru de decizii de supraveghere care arată cine a decis ce și pe baza căror informații. Fără această consemnare, o clasificare este o instantanee pe care nimeni nu o mai poate reconstitui.
Această întrebare de clasificare poate fi corect răspunsă doar dacă se știe ce funcționează efectiv. O listă IT cu instrumente aprobate nu este suficientă în acest sens: o mare parte a utilizării apare în afara acelei liste, în echipe care au început să utilizeze un instrument fără să raporteze acest lucru nicăieri. Cei care doresc să cartografieze această utilizare trebuie să întrebe despre ea — și să facă asta doar fără ca de aceasta să fie legată o sancțiune, altfel răspunsul nu va veni.
Odată ce este clar ce aplicații există și cât contează, apare o întrebare ulterioară care nu mai este despre risc, ci despre muncă: ce parte a unei sarcini poate fi preluată de un sistem de AI și ce parte rămâne muncă umană. Această întrebare este răspunsă de scanul de muncă al FTE TO AI, care calculează pe sarcină ce parte a muncii poate fi preluată — o perspectivă diferită de clasificarea riscurilor, dar una care se bazează pe același inventar.
Această pagină descrie mecanismul din spatele clasificării. Responsible AI Scan însuși este în curs de dezvoltare; cei care doresc să utilizeze rezultatele acestuia imediat ce vor fi disponibile se pot înscrie pe lista de așteptare.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.