Întrebarea care aplicații nu se încadrează în domeniul de aplicare sună ca o cerere de listă. Nu este așa. Faptul că ceva se încadrează sau nu în domeniul de aplicare este o clasificare care depinde de ce face o aplicație, în ce context și pentru cine. Aceeași tehnologie poate rămâne în afara atenției într-o aplicație și poate primi atenție deplină în alta. De aceea nu există o listă fixă de aplicații excluse — există însă o serie de factori care determină clasificarea.
Primul factor este funcția aplicației: ce decide sau recomandă sistemul și pentru cine are aceasta consecințe. Un instrument care rescrie text intern se situează diferit față de un instrument care contribuie la decizia privind o cerere, o candidatură sau o solicitare de despăgubire. Al doilea factor este nivelul de risc asociat acelei funcții: pe măsură ce consecințele pentru oameni sunt mai mari, o aplicație se deplasează mai degrabă către partea mai grea a spectrului. Al treilea factor este rolul organizației însăși: cine folosește pur și simplu un sistem este evaluat diferit față de cine îl adaptează, îl retrain-uiește sau îl asamblează din componente ale altora. Ce anume implică exact această distribuție de roluri și când se schimbă aceasta este descris pe paginile despre distincția dintre furnizor și utilizator al unui sistem AI și despre momentul în care un rol de utilizator trece într-o altă responsabilitate.
Un al patrulea factor este de natură tehnică, dar relevant din punct de vedere juridic: ceea ce o organizație modifică ea însăși la un model existent schimbă uneori poziția acelei organizații în ansamblu. Un model achiziționat fără modificări se încadrează diferit în tablou față de un model care este fine-tuned pe date proprii sau integrat într-un proces propriu. Această limită — momentul în care adaptarea determină o schimbare de rol — este tratată pe pagina despre ce se schimbă atunci când un model este adaptat el însuși.
Deoarece clasificarea depinde de acești factori, domeniul de aplicare nu este o caracteristică fixă a unui instrument, ci un rezultat care poate varia. Un chatbot care a început ca ajutor intern la redactare poate, de îndată ce răspunde și la întrebări ale clienților care conduc la o decizie, să ajungă într-o altă parte a spectrului. Un model care a fost achiziționat ca produs gata de utilizare poate, după adaptare pe date proprii, să aducă un alt rol pentru organizație. O aplicație considerată astăzi cu impact scăzut poate, mâine, avea o pondere mai mare pentru că a se schimbat contextul în care este folosită — o altă echipă, o altă decizie, un alt grup de oameni afectat de rezultat.
Aceasta este exact motivul pentru care o clasificare unică nu este suficientă. O clasificare stabilită la momentul introducerii nu spune nimic despre ce face un instrument un an mai târziu. Ce trebuie să intre astăzi în domeniul de aplicare și ce poate fi planificat pentru mai târziu este, la rândul său, o întrebare care depinde de situația actuală — detaliată pe pagina despre ordinea dintre ce necesită atenție acum și ce poate urma mai târziu.
Clasificarea în și în afara domeniului de aplicare este îngreunată de o problemă practică: lista oficială a instrumentelor achiziționate sau aprobate nu este aceeași cu lista instrumentelor care sunt de fapt folosite. Echipele pun în funcțiune funcționalități AI fără a le trece printr-un proces de solicitare — nu din reavoință, ci pentru că sunt facil accesibile și rezolvă o problemă. Acest AI din umbră este exact partea care face imposibilă o clasificare în sau în afara domeniului de aplicare, atâta timp cât nimeni nu știe că aplicația respectivă există.
Cine dorește să completeze acest tablou trebuie să întrebe — iar întrebarea nu trebuie să pară un reproș mascat. De îndată ce un angajat suspectează că un răspuns sincer duce la o sancțiune, răspunsul nu mai vine, iar instrumentul rămâne sub radar. Un inventar construit pe baza sancționării oferă deci, prin definiție, un tablou incomplet — iar un tablou incomplet face ca orice clasificare în domeniul de aplicare să fie provizorie.
Deoarece domeniul de aplicare se poate schimba, consemnarea clasificării este cel puțin la fel de importantă ca clasificarea însăși. Cine a decis că o aplicație se afla în afara domeniului de aplicare, pe baza căror informații și la ce moment — astfel de întrebări devin fără răspuns de îndată ce consemnarea lipsește. Modul în care o organizație face acest tip de decizie reglementabil și trasabil este descris pe pagina despre un registru de decizii care face deciziile de supraveghere trasabile, iar modul în care această clasificare se reflectă în mod recognoscibil în documentul pe care angajații îl consultă efectiv, pe pagina despre o politică AI care se aliniază cu ceea ce oamenii fac cu adevărat.
Întrebarea de clasificare — ce se încadrează în domeniul de aplicare și ce nu — se referă la risc și responsabilitate, nu la ce înseamnă o aplicație pentru munca în sine. Această a doua întrebare, ce poate prelua AI exact dintr-o sarcină, este un calcul separat. Scanul de lucru al FTE TO AI calculează pentru fiecare sarcină ce parte a muncii poate fi preluată, independent de întrebarea cum ajunge acea aplicație în clasificarea de guvernanță.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.