O clasificare a unei aplicații de AI descrie o situație la un moment dat: care model, care aplicație, care utilizatori, care risc. Această situație se schimbă. Un furnizor modifică un model, o echipă folosește un instrument pentru altceva decât pentru ce a fost achiziționat, un furnizor adaugă o funcție fără ca cineva să ceară permisiunea pentru asta. Clasificarea pe care ați făcut-o anul trecut nu mai descrie automat, din această cauză, situația de astăzi.
Întrebarea "cât de des" nu are un răspuns fix valabil pentru fiecare organizație. Depinde de câte aplicații de AI există, cât de rapid se schimbă acestea, cât de diverse sunt echipele care lucrează cu ele și cât de strict este controlul asupra sectorului în care operați. Un moment fix anual este un punct de start, nu o garanție că nu pierdeți nimic între timp.
O reevaluare anuală sau semestrială funcționează bine pentru aplicațiile pe care le cunoașteți deja și care au fost introduse printr-un traseu formal. Pentru aplicațiile pe care nimeni nu le-a raportat, un interval fix nu funcționează, pur și simplu pentru că nu există nimic de reevaluat la o dată fixă. Ce faceți cu angajații care folosesc un instrument pe care nimeni nu l-a aprobat descrie de ce această întrebare nu se rezolvă printr-o programare recurentă în agendă, ci printr-un alt mod de a adresa întrebări organizației.
În plus, riscul nu se schimbă doar din cauza a ceea ce face o aplicație, ci și din cauza a ceea ce este introdus în ea. O fereastră de chat folosită astăzi pentru rezumarea unui text public poate fi folosită mâine pentru rezumarea unui contract. Ce faceți cu datele companiei într-o fereastră de chat gratuită arată că nivelul de risc al aceluiași instrument se poate schimba fără ca instrumentul în sine să se modifice.
Pe lângă un moment fix, există evenimente care necesită o reevaluare intermediară. O modificare a funcției unei aplicații, o extindere a grupului de utilizatori, un incident sau un near-miss, o modificare a condițiilor furnizorului, sau un semnal de la un angajat că se folosește altceva decât s-a intenționat. Aceste semnale nu au toate aceeași gravitate, și nu fiecare organizație le va observa la fel de rapid.
Întrebarea cine reacționează la aceste semnale și cine are proprietatea asupra reevaluării în sine este o întrebare separată. Cine este responsabil când o aplicație de AI face o eroare descrie că responsabilitatea este stabilită de multe ori abia în momentul în care ceva nu merge bine, în timp ce această întrebare ar fi trebuit de fapt să fie deja rezolvată la prima clasificare.
Un ritm de reevaluare plasat lângă procesele de risc existente, fără a fi integrat în acestea, își pierde de obicei prioritatea în decurs de un an. Este un pas suplimentar pe care nimeni nu îl solicită până când ceva nu merge bine, și tocmai din acest motiv rămâne neglijat. De ce un al doilea proces alături de cel existent este ignorat explică de ce reevaluarea funcționează mai eficient atunci când este integrată în managementul de risc existent, în loc de a fi un traseu separat care concurează pentru atenție cu restul organizației.
O metodă de clasificare poate oferi o structură pentru a evalua consecvent aplicațiile de AI în funcție de rol și nivel de risc, și această structură poate fi aplicată repetabil. Ce nu poate face metoda este să garanteze că vedeți totul. O clasificare este la fel de bună ca informația care se află la baza ei, iar această informație provine parțial de la persoane care pot avea un motiv să nu raporteze ceva. Un angajat care folosește un instrument neaprobat nu va raporta acest lucru din proprie inițiativă dacă se așteaptă la o sancțiune.
Metoda nu poate prezice nici când un furnizor modifică un model, sau când o aplicație care astăzi are risc scăzut este folosită mâine altfel. Reevaluarea rămâne, prin urmare, o chestiune de repetare și de organizare a transparenței, nu a unui sistem care este configurat o singură dată și după aceea rămâne actual de sine stătător. Modul în care păstrați acest registru actualizat fără ca acesta să rămână în urmă după câteva luni este descris în cum păstrați un registru de AI actualizat, unde distincția dintre o inventariere unică și un proces continuu este centrală.
La aceasta se adaugă și întrebarea ce înseamnă în practică controlul asupra AI între momentele de reevaluare: cine urmărește, cu ce frecvență și pe baza căror semnale. Ce este supravegherea umană în practică face distincția între supraveghere ca o bifă formală și supraveghere ca ceva care urmărește continuu utilizarea.
O clasificare vă spune care aplicații există, ce rol au și ce nivel de risc li se aplică. Această clasificare nu vă spune cât de mult din muncă este efectiv realizat de AI și cât spațiu mai rămâne per sarcină. Cine dorește să răspundă la această întrebare nu se poate limita la o inventariere de risc; aceasta necesită o privire asupra muncii în sine, sarcină cu sarcină. Scanul de lucru al FTE TO AI calculează per sarcină ce parte din aceasta poate fi preluată de AI, ca supliment la imaginea oferită de o clasificare.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.