O aplicație de AI face o eroare. O decizie nu este corectă, un sfat este înșelător, un client este respins pe nedrept. Întrebarea care urmează nu este doar tehnică. Cine ar fi trebuit să vadă asta venind, cine gestiona sistemul și cine poate explica de ce a fost folosit așa cum a fost folosit.
Acel răspuns nu există independent de un registru. Responsabilitatea presupune că cineva știe că o aplicație există, la ce serveste și cine se ocupă de ea. Fără acea bază, întrebarea despre răspundere este retorică: nu există nimeni care să o știe, deci nu există nimeni care să o poată explica.
Un Responsible AI Scan cartografiază ce rulează, cine îl folosește și cu ce nivel de risc este asociat acest lucru. Acesta este un punct de start, nu o afirmație despre vină. Scanarea clasifică o aplicație în funcție de rol și risc; nu evaluează dacă o decizie individuală a fost corectă. Acea evaluare aparține incidentului în sine, nu inventarului care l-a precedat.
Ce face scanarea este să livreze structura în cadrul căreia acea evaluare poate fi făcută mai târziu. Dacă se cunoaște cine a achiziționat o aplicație, cine o gestionează și pentru ce scop a fost aprobată, există o linie pe care te poți baza. Dacă această structură nu există, întrebarea privind responsabilitatea se reduce la ghicit ulterior.
Majoritatea organizațiilor au un centralizator al software-ului aprobat. Acel centralizator nu este aproape niciodată complet. Angajații folosesc instrumente pe care nimeni nu le-a înregistrat, adesea pentru că munca se face mai rapid și nimeni nu a întrebat. Acesta nu este, prin definiție, un comportament iresponsabil; este ceea ce se întâmplă atunci când o organizație nu oferă o altă cale.
Cine dorește să știe ce se folosește cu adevărat trebuie să întrebe. Și asta funcționează doar dacă a întreba nu are consecințe. De îndată ce un angajat suspectează că un răspuns sincer va duce la o discuție corectivă, răspunsul se oprește. Ce faceți cu angajații care folosesc un instrument pe care nimeni nu l-a aprobat tratează exact acest mecanism: inventarul este atât de bun cât încrederea cu care este colectat.
Tot aici se încadrează și întrebarea ce se întâmplă cu informațiile companiei de îndată ce sunt introduse într-o fereastră externă. Ce faceți cu datele companiei într-o fereastră de chat gratuită descrie un risc independent de rea intenție: cineva vrea pur și simplu să verifice un text și, procedând astfel, introduce ceva ce nu ar fi trebuit.
Un set de guvernanță care urmează unui inventar reglementează cine aprobă o aplicație, cine exercită supravegherea și cum se documentează acest lucru. Acesta se aliniază cu structura de risc pe care o organizație o are deja pentru alte domenii: aceleași comitete, aceleași linii de raportare, aceleași căi de escaladare. Nu se adaugă un aparat nou pe lângă cel existent; se adaugă o categorie la ceea ce există deja.
Acest lucru oferă demonstrabilitate: un consiliu poate arăta că s-a analizat, s-a clasificat și s-a instituit supraveghere. Nu oferă garanția că o aplicație nu va mai face niciodată o eroare. Cele două sunt lucruri separate, iar scanarea nu face nicio afirmație despre al doilea aspect. Ce oferă este o bază pe care un consiliu poate explica ce s-a făcut, nu o asigurare împotriva a ceea ce se mai poate întâmpla.
O eroare frecventă este instituirea unui proces separat pentru AI, independent de structura de risc și conformitate existentă. Acel proces primește atenție la început și apoi trece în plan secund, pentru că nimeni nu continuă să întrețină un al doilea sistem pe lângă primul. De ce este ignorat un al doilea proces pe lângă cel existent explică de ce alinierea la structurile existente nu este o chestiune de eficiență, ci o condiție pentru ca ceva să existe.
Tot aici se încadrează și faptul că un inventar este un moment, nu un punct final. Apar aplicații noi, cele existente își schimbă funcția, iar o clasificare care era corectă la momentul livrării nu este automat corectă un an mai târziu. Cât de des trebuie să reclasificați și cum păstrați actualizat un registru de AI descriu ce implică în practică această întreținere și de ce un registru întocmit o singură dată nu mai corespunde realității după un timp relativ scurt.
Mai mult, persoanele care lucrează cu aceste aplicații fac parte din soluție, nu doar un risc care trebuie gestionat. Ce înțeleg și ce nu înțeleg angajații despre sistemele pe care le folosesc determină dacă un set de guvernanță are vreo relevanță în practică. Ce înseamnă alfabetizarea în AI pentru angajații dumneavoastră abordează acest aspect.
Cine află care aplicații de AI rulează și cine se ocupă de ele, ajunge inevitabil la o întrebare ulterioară: ce parte din munca care se face acum manual este de fapt potrivită pentru a fi transferată către o aplicație de AI. Aceasta este o întrebare diferită de responsabilitate, dar se bazează pe același inventar. Scanarea muncii de la FTE TO AI calculează, per sarcină, care parte din muncă poate fi preluată de AI, ca pas următor după ce s-a clarificat ce rulează deja și cine decide despre asta.
Scanarea descrisă pe această pagină este în construcție. Cei interesați se pot înscrie pe lista de așteptare; în acest moment nu se livrează încă nimic care nu este finalizat.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.