Supravegherea umană este adesea stabilită ca un rol: cineva care este responsabil, un nume într-un registru, o casetă bifată. Acesta este punctul de start, nu mecanismul în sine. Supravegherea apare abia atunci când există un moment în care un om poate vedea rezultatul unei aplicații de AI, îl poate înțelege și îl poate ajusta înainte ca acel rezultat să ajungă undeva. Fără acel moment, numele sub clasificare este o formalitate.
Dacă supravegherea funcționează în practică depinde de o serie de lucruri care nu se combină de la sine. Trebuie să existe cineva care are autoritatea de a bloca un rezultat, nu doar sarcina de a se uita la el. Trebuie să existe timp pentru a privi, ceea ce înseamnă că procesul nu este structurat astfel încât rezultatul AI să fie deja procesat înainte ca verificarea să aibă loc. Și trebuie să existe suficientă înțelegere a ceea ce face aplicația pentru a putea recunoaște o abatere. Un controlor care nu poate evalua rezultatul nu exercită supraveghere, nici măcar atunci când rolul este atribuit formal.
Acest lucru este legat de ce înseamnă alfabetizarea în domeniul AI pentru angajații dumneavoastră: supravegherea fără înțelegerea aplicației care stă la bază este supraveghere pe hârtie.
O structură de guvernanță poate stabili cine este responsabil pentru ce, ce nivel de risc are o aplicație și ce pași sunt asociați acesteia. Ce nu face structura este să garanteze că acea persoană evaluează efectiv rezultatul în momentul în care contează. Acesta este un fapt organizatoric, nu un fapt tehnic. O clasificare poate fi corectă, iar supravegherea poate fi totuși goală, pentru că persoana responsabilă pe hârtie nu are timpul, accesul sau cunoștințele necesare pentru a evalua rezultatul.
Inventarul și clasificarea scot la iveală unde este cel mai mare acest risc: la aplicațiile cu un nivel de risc mai ridicat, sau la aplicațiile care au apărut în afara traseului IT obișnuit. Acest din urmă grup este de obicei cel mai dificil, pentru că cine dorește să organizeze supravegherea asupra a ceva ce nu figurează în evidențe, trebuie mai întâi să îl găsească. Acest lucru se leagă de întrebarea ce faceți cu angajații care folosesc un instrument pe care nimeni nu l-a aprobat: supravegherea asupra AI-ului din umbră începe cu recunoașterea faptului că aplicația respectivă există, nu cu o sancțiune pentru utilizarea ei.
O aplicație care se află astăzi sub supraveghere poate fi diferită mâine. Un model este actualizat, datele de intrare se modifică, sau utilizarea în cadrul organizației crește de la o sarcină simplă la ceva cu mai multă greutate. Supravegherea configurată pentru situația de acum un an nu mai corespunde cu ceea ce se întâmplă în prezent. Acesta este unul dintre motivele pentru care clasificarea nu este un exercițiu unic; frecvența cu care aceasta trebuie repetată depinde de nivelul de risc și de măsura în care aplicația se schimbă, așa cum este detaliat în cât de des trebuie să reclasificați.
Acest lucru înseamnă și că un registru are valoare doar dacă este întreținut. Un inventar întocmit la prima scanare și care nu mai este actualizat ulterior oferă o imagine tot mai imprecisă a locurilor unde este necesară supravegherea. Întrebarea cum ține o organizație acest registru actualizat este separată de întrebarea cum a fost construit registrul și merită atenție proprie: vezi cum țineți un registru AI actualizat.
Un consiliu de administrație căruia i se cere să demonstreze că există supraveghere asupra utilizării AI nu se poate limita la o listă de roluri. Demonstrabilitatea necesită o traseabilitate: cine a evaluat ce rezultat, la ce moment, cu ce autoritate de a interveni. Această traseabilitate este relevantă și atunci când ceva merge greșit. Întrebarea cine este responsabil atunci când o aplicație de AI face o greșeală nu este răspunsă doar prin clasificare, ci prin supravegherea demonstrabilă care a urmat acesteia. Aceste două aspecte sunt ușor confundate, în timp ce distincția este relevantă; vezi cine este responsabil atunci când o aplicație de AI face o greșeală.
Supravegherea are legătură și cu ceea ce este introdus într-o aplicație. Un angajat care lipește date ale companiei într-o fereastră de chat gratuită plasează aceste date în afara oricărei supravegheri pe care organizația a instituit-o, indiferent cât de bine este organizată supravegherea asupra aplicațiilor aprobate. Acesta este un domeniu de atenție separat în cadrul problematicii mai largi, detaliat la ce faceți cu datele companiei într-o fereastră de chat gratuită.
Această pagină descrie cum funcționează supravegherea ca mecanism: cine privește, când, cu ce autoritate și cum se face demonstrabil acest lucru. Normele de conținut care determină când supravegherea este obligatorie, cât de strictă trebuie să fie această supraveghere pe categorie de risc și în ce termene trebuie să fie organizată, nu se găsesc aici. Acel conținut normativ se schimbă și este actualizat în altă parte.
Organizarea supravegherii asupra unei sarcini are sens doar dacă este clar ce implică exact acea sarcină și ce parte din ea este realizată de o aplicație de AI. Aceasta este o întrebare diferită de rolul sau nivelul de risc pe care îl are o aplicație; este vorba despre sarcina în sine, împărțită în pașii pe care o aplicație de AI îi poate prelua și pașii care nu sunt eligibili pentru asta. Scanul de lucru al FTE TO AI calculează acest lucru pentru fiecare sarcină, astfel încât să devină vizibil ce parte din lucru poate fi preluată și ce parte trebuie să rămână în sfera supravegherii umane.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.