re-ai-gov Pe lista de așteptare

Kennisbank

Întrebarea despre utilizarea AI fără ca aceasta să se simtă ca o justificare

La un singur sediu mai puteți încă să vă plimbați și să porniți conversația. La mai multe sedii, cu diferiți conducători și diferite culturi în privința a ceea ce se raportează și ce nu, acest lucru nu mai funcționează. Atunci trebuie să găsiți o modalitate de a pune aceeași întrebare, în același mod, oriunde, și exact aici este de obicei problema: întrebarea este pusă ca un control, și atunci nu vine un răspuns util.

De ce întrebarea în sine este problema

Dacă întrebați "folosiți instrumente AI care nu au fost aprobate", cereți cuiva să admită că încalcă regulile. Răspunsul pe care îl primiți atunci este aproape mereu nu, chiar și atunci când nu este adevărat. Nu pentru că oamenii mint de dragul minciunii, ci pentru că întrebarea este formulată astfel încât un răspuns sincer devine o confesiune. Acest lucru este valabil pentru angajatul care folosește un chatbot pentru a concepe e-mailuri, și este valabil și mai puternic pentru managerul de sediu care a achiziționat un instrument fără implicarea departamentului IT, pentru că a fost mai rapid decât depunerea unei cereri.

Întrebarea care funcționează nu se referă la permisiune, ci la utilizare: ce muncă faceți și ce vă ajută în acest sens. Nu o întrebare despre încălcare, o întrebare despre practică. Aceasta schimbă nu doar tonul, ci și ceea ce oamenii îndrăznesc să raporteze.

Ce înregistrați, per raportare

Un inventar util nu constă din impresii, ci dintr-un set limitat de date, colectate consecvent:

Aceste cinci puncte le transformați într-un chestionar fix care este identic oriunde, astfel încât sediul A și sediul B să producă date comparabile. Ce înregistrați exact per aplicație și de ce, este detaliat pe pagina despre ce trebuie să înregistrați per aplicație.

De unde mai obțineți informații, în afară de angajatul însuși

Întrebarea adresată angajaților este o sursă, nu singura. Facturile și rezumatele licențelor arată adesea ce abonamente AI există undeva, chiar și fără ca cineva să le raporteze; ce dezvăluie datele de achiziție și licențiere la o organizație cu mai multe sedii este că fiecare sediu are propriul model de achiziție, iar abaterile de aici se observă adesea mai rapid decât într-o conversație. În plus, semnalele IT utile la o organizație cu mai multe sedii oferă o a doua linie: trafic de rețea către servicii AI cunoscute, extensii de browser noi, cereri de acces API. Niciuna dintre aceste surse nu este completă în sine. Împreună oferă o imagine mai fiabilă decât ceea ce poate produce un singur canal, iar acest lucru face de asemenea mai ușor să nu îl solicitați pe angajat ca unic punct de control.

Promisiunea pe care trebuie să o faceți în avans

Fără un acord clar că raportarea nu duce la o sancțiune, AI-ul din umbră rămâne în umbră. Aceasta nu înseamnă că nu există niciodată consecințe — dacă o aplicație se dovedește a fi un risc, trebuie să se facă ceva în acest sens — ci că raportarea în sine nu este niciodată punctul de start al unei probleme. Această separare între raportare și evaluare trebuie comunicată în avans, nu explicată ulterior. Cum construiți acest inventar pas cu pas, inclusiv ordinea întrebărilor și a surselor, este descris pe pagina despre construirea unui inventar AI.

Rol și nivel de risc, nu imediat judecată

Odată ce o aplicație este identificată, următoarea întrebare nu este "este permis acest lucru" ci "ce este acest lucru". Este organizația aici utilizator al unui sistem extern, sau în anumite cazuri chiar furnizor — de exemplu pentru că o echipă a instruit propriul model sau a modificat semnificativ un sistem existent. Această distincție determină ce obligații se aplică și cine este responsabil pentru ele; este detaliată pe pagina care distinge rolurile de furnizor și utilizator. Și în cadrul rolului de utilizator, poziția se poate schimba — o modificare, o nouă aplicație a datelor existente — ceea ce poate fi citit pe pagina despre momentul în care rolul dumneavoastră se schimbă. Ambele întrebări fac parte din clasificare, nu din prima conversație cu angajații. Întâi imaginea de ansamblu, apoi clasificarea.

De la imaginea de ansamblu la estimarea impactului

Un inventar al a ceea ce este folosit nu vă spune încă câtă muncă este legată de acesta sau ce se schimbă dacă o aplicație dispare sau, dimpotrivă, este extinsă. Pentru această întrebare — ce parte din munca dintr-o sarcină este preluată de AI și ce parte nu — este destinată scanarea muncii de la FTE TO AI. Aceasta calculează per sarcină cum se prezintă distribuția între om și AI, pe baza sarcinilor așa cum sunt executate acum, nu pe baza unei estimări în avans.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.