În multe organizații există o listă fixă de aplicații care ar fi "în afara domeniului de aplicare". O sugestie de text într-un editor de text, un filtru de spam, un chatbot care răspunde doar pe baza unui set fix de întrebări frecvente. Se presupune că aceste aplicații sunt prea mici, prea vechi sau prea inofensive pentru a fi supuse guvernanței. Această presupunere este uneori corectă. Nu este întotdeauna corectă și rareori rămâne corectă în timp.
Faptul că ceva se încadrează sau nu în domeniul de aplicare nu este o proprietate a tehnologiei. Este o clasificare care rezultă din ce face sistemul, pentru cine și cu ce efect atunci când lucrurile merg greșit. Aceeași sugestie de text care astăzi se află în afara domeniului de aplicare pentru că propune unui angajat doar un cuvânt, poate mâine să se încadreze în domeniul de aplicare de îndată ce finalizează și trimite automat e-mailuri fără intervenție umană.
Trei factori determină împreună dacă o aplicație se încadrează sau nu în domeniul de aplicare.
Primul este funcția: sistemul luă o decizie sau oferă doar informații pe care le evaluează un om? Un instrument care clasează candidații se află mai apropiat de domeniul de aplicare decât un instrument care doar face CV-urile căutabile. Locul exact pe acest spectru unde se situează o aplicație și de ce, citiți în analiza a ce înseamnă un nivel ridicat de risc pentru organizația dumneavoastră.
Al doilea este rolul organizației înseși. Cel care achiziționează un sistem și îl folosește neschimbat se află într-o poziție diferită față de cel care îl construiește, îl instruiește sau îl adaptează el însuși. Aceeași aplicație se poate afla în afara domeniului de aplicare pentru o organizație și nu pentru alta, pur pe baza cui și ce responsabilitate poartă. Această distincție este dezvoltată în întrebarea dacă sunteți furnizor sau utilizator și se modifică de îndată ce cineva din organizație adaptează sau reinstruiește un model, așa cum este descris în ce se schimbă atunci când adaptați dumneavoastră înșivă un model.
Al treilea factor este timpul. Un sistem care acum se află în afara domeniului de aplicare poate să nu mai fie așa peste un an, nu pentru că regulile s-au schimbat, ci pentru că utilizarea s-a schimbat. Un chatbot care a început ca o sursă de informații poate evolua într-un sistem care gestionează reclamații. Rolul unei echipe sau al unui departament în raport cu un astfel de sistem se modifică odată cu acesta, iar momentul în care se întâmplă acest lucru este descris în când se schimbă rolul dumneavoastră și de ce depinde acest lucru.
Consecința acestor trei factori este că "în afara domeniului de aplicare" nu este niciodată un statut permanent. Este o instantanee care trebuie reevaluată de îndată ce funcția unui sistem se schimbă, de îndată ce organizația primește un alt rol în raport cu acel sistem, sau de îndată ce utilizarea se extinde către ceva care nu a fost prevăzut la achiziție.
Aici este exact locul în care AI-ul din umbră perturbă clasificarea. O aplicație notată pe lista IT ca "în afara domeniului de aplicare" poate fi folosită în practică într-un mod care nu mai corespunde acestei clasificări. O echipă care folosește un model lingvistic pentru a redacta ciorne de comunicare cu clienții îl poate folosi și pentru a trimite răspunsuri definitive fără a raporta acest lucru. Clasificarea de pe hârtie și utilizarea din practică diferă atunci, și nimeni care se uită doar la licențele achiziționate nu vede această diferență.
Singura modalitate de a obține claritate în acest sens este să întrebați. Nu un sistem, ci oamenii care îl folosesc. Acest lucru funcționează doar dacă a pune întrebări nu echivalează cu a trage la răspundere: cine se teme de consecințe își adaptează răspunsul sau nu răspunde deloc. O clasificare bazată exclusiv pe licențele achiziționate ratează, prin urmare, sistematic aplicațiile apărute din utilizarea practică, și acestea sunt adesea exact aplicațiile despre care nimeni mai nu mai știe dacă se mai încadrează în afara domeniului de aplicare sau se află deja mult în interiorul lui.
Întrebarea "aceasta se încadrează în afara domeniului de aplicare" nu poate fi, așadar, separată de întrebarea ce se întâmplă exact, cine decide asupra ei și de cât timp durează deja această situație. Un inventar care înregistrează acești trei factori pentru fiecare aplicație produce o clasificare care corespunde situației reale, în loc de presupunerea cu care un sistem a fost cândva achiziționat. Ce necesită atenție deja acum și ce poate fi planificat calm depinde de aceiași factori și este tratat în distincția dintre ce trebuie făcut acum și ce poate fi planificat.
De îndată ce este clar ce aplicații se încadrează în domeniul de aplicare și ce rol joacă organizația dumneavoastră în acest context, apare o întrebare ulterioară care nu privește guvernanța, ci munca însăși: ce parte dintr-o sarcină este de fapt preluată de o astfel de aplicație și ce parte rămâne muncă umană? Această întrebare nu este răspunsă de scanarea de guvernanță. Pentru aceasta este destinată scanarea muncii de la FTE TO AI, care calculează pentru fiecare sarcină ce parte din muncă poate fi preluată de AI, oferind astfel o imagine a efortului care se află în spatele clasificării.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.