Multe inițiative de guvernanță încep cu un proces nou: un formular, un pas de aprobare, un comitet care trebuie să evalueze utilizarea AI înainte ca aceasta să fie pusă în practică. Presupunerea este că angajații vor urma acest proces pentru că el există. În practică, acest lucru se întâmplă rar. Cine poate îndeplini o sarcină mai rapid cu un instrument pe care l-a găsit el însuși nu cere permisiunea unui comitet a cărui agendă nu o cunoaște și al cărui termen de soluționare nu îl poate estima. Folosește instrumentul și nu spune nimic despre asta.
Aceasta nu este rea-voință. Este o reacție rațională la un proces care se situează pe lângă muncă, nu în interiorul ei. Un al doilea proces cere timp, generează incertitudine cu privire la rezultat și nu oferă niciun avantaj vizibil celui care îl urmează. Șansa ca el să fie ignorat este astfel mai mare decât șansa ca el să fie respectat.
Consecința nu este că nu se folosește AI. Consecința este că se folosește AI în afara câmpului vizual al celui responsabil. Lista IT cu instrumente aprobate rămâne astfel o descriere a ceea ce a fost cerut cândva, nu a ceea ce se folosește. Între aceste două liste poate exista o diferență semnificativă, iar nimeni care se uită doar la lista aprobată nu poate observa acea diferență.
Acest lucru este direct legat de întrebarea cine este responsabil atunci când o aplicație AI face o eroare. Un manager care dorește să poată atribui răspunderea trebuie să știe ce sistem a influențat o decizie. Dacă acel sistem nu a fost înregistrat niciodată pentru că procedura de înregistrare a fost omisă, această bază lipsește exact în momentul în care este necesară.
Metoda pe care o aplicăm nu începe cu un proces de aprobare, ci cu o inventariere care întreabă, nu controlează. Diferența este mică ca formă și mare ca efect. Un angajat căruia i se cere să spună ce folosește și în ce scop, fără ca acest lucru să aibă consecințe pentru el, nu are niciun motiv să ascundă răspunsul. Un angajat care știe că un răspuns sincer poate duce la o interdicție sau la o corecție are toate motivele să își adapteze răspunsul.
Acesta este un punct vulnerabil al metodei și preferăm să îl menționăm decât să îl ascundem. O inventariere fără sancțiuni oferă o imagine mai onestă decât un audit cu consecințe, dar ea nu garantează că toată utilizarea este raportată. Cine folosește un instrument pe care îl suspectează a fi problematic poate în continuare să tacă, chiar și fără o amenințare directă. Inventarierea reduce pragul de raportare; ea nu elimină complet acest prag. Ceea ce metoda oferă totuși este o șansă mai mare de a obține o imagine completă decât un proces care sugerează de la început o sancțiune.
Un al doilea proces este ignorat. O completare la un proces existent are mai multe șanse să reziste în timp. De aceea clasificăm utilizarea AI pe rol și nivel de risc în cadrul structurii de risc pe care o organizație o folosește deja, în loc să adăugăm o structură nouă în paralel. Ceea ce este clasificat ca risc ridicat ajunge în același loc ca alte riscuri ridicate din registrul de risc existent. Aceasta înseamnă și că întrebarea cât de des trebuie reclasificat nu necesită un calendar nou, ci se conectează la ciclul existent de evaluare a riscurilor.
Această conectare nu rezolvă totul. Un registru AI întocmit o singură dată devine desuet de îndată ce cineva pune în funcțiune un instrument nou fără să raporteze acest lucru. De aceea întrebarea cum rămâne actualizat un registru AI este la fel de importantă ca prima inventariere. Un registru care nu este întreținut devine, în timp, din nou o descriere a trecutului.
Supravegherea utilizării AI este adesea prezentată ca o chestiune tehnică: un sistem care monitorizează, un tablou de bord care raportează. Dar o supraveghere care funcționează începe cu oameni care înțeleg de ce raportarea are sens și care știu ce se întâmplă cu răspunsul lor. Aceasta este o întrebare despre comportament, nu doar despre tehnică, și se leagă de ceea ce înseamnă supravegherea umană în practică la locul de muncă, precum și de ceea ce înseamnă concret alfabetizarea în domeniul AI pentru angajați. Fără această înțelegere, orice proces, oricât de bine conceput, rămâne un formular pe care oamenii îl completează pentru că trebuie, nu pentru că le aduce un beneficiu.
Această abordare nu oferă certitudinea completă că toate aplicațiile AI vor fi identificate. Ea reduce pragul de raportare și se conectează la structurile existente, dar o organizație care face inventarierea pentru prima dată trebuie să țină cont de faptul că o parte din utilizare rămâne invizibilă, chiar dacă această parte este de obicei mai mică după o inventariere riguroasă decât înainte de aceasta.
O inventariere a utilizării AI arată ce funcționează și cine îl folosește, dar nu spune încă nimic despre cât de mult din munca de bază poate fi efectiv preluată de AI. Această întrebare se situează un pas mai departe și este răspunsă de scanul de lucru al FTE TO AI, care calculează, pe fiecare sarcină, ce parte din muncă poate fi preluată. Cine știe deja ce instrumente sunt folosite în organizație poate folosi acest scan pentru a examina ce înseamnă această utilizare pentru organizarea muncii în sine.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.