O echipă dorește să lucreze mai rapid și pornește un instrument AI, de obicei pentru a testa ceva concret: un rezumat, o primă schiță, o clasificare. Nu există niciun traseu de aprobare pentru că este "doar o probă". Proba funcționează, sau funcționează suficient de bine, și se pierde în procesul zilnic fără ca vreodată să se fi luat o decizie de a o păstra. Nu a existat niciun moment în care cineva să aleagă conștient: pe aceasta o includem în inventarul nostru de AI, pentru aceasta există un proprietar, aceasta se încadrează în acel nivel de risc. A existat doar un moment de început, iar acel moment se fixează într-un mod de lucru pe care nimeni nu l-a mai atins.
Întreruperea unei instalații de probă necesită o decizie. Continuarea nu necesită nimic. Atâta timp cât nimeni nu raportează un incident sau o parte externă nu solicită dovezi de control, nu există niciun motiv de a reveni asupra a ceva care de mult a devenit muncă obișnuită. Persoanele care utilizează instrumentul nu au niciun interes să atragă atenția asupra lui: funcționează, economisește timp, iar raportarea se simte ca riscul de a-l pierde. Astfel, o soluție temporară rămâne structurală, nu pentru că nimeni nu o știe, ci pentru că nimeni nu pune întrebarea care ar conduce la închiderea ei.
Este firesc să se creadă că o listă de software aprobat face acest lucru vizibil. Acea listă arată ce a fost achiziționat, nu ce este utilizat. O instalație de probă funcționează frecvent în afara acelui canal: un cont gratuit, un plugin de browser, un abonament separat pe un card de echipă. Același model se manifestă în cazul unei extensii de browser cu acces la e-mailul dumneavoastră, în cazul unui departament cu propriul abonament în afara achizițiilor centralizate, și în cazul datelor companiei care sunt lipite într-o fereastră de chat gratuită fără să existe un contract cu clauze de prelucrare a datelor în spate. Niciuna dintre aceste situații nu apare pe o listă IT, pentru că niciuna dintre ele nu a fost vreodată înregistrată ca proiect.
Singura modalitate de a ști ce funcționează cu adevărat este să întrebați. Nu ca un control ulterior, ci ca o deschidere: ce utilizați, pentru ce și de când. Cine pune această întrebare cu amenințarea unor sancțiuni în fundal nu primește niciun răspuns sau primește un răspuns incomplet. Angajații care utilizează un instrument pe care nimeni nu l-a aprobat au ceva de pierdut prin onestitate și nimic de câștigat. Aceasta este exact tensiunea care apare în cazul angajaților care utilizează un instrument pe care nimeni nu l-a aprobat: fără o invitație la care este sigur să se răspundă, instalația de probă rămâne subterană, și nu dispare, ci devine doar mai tăcută.
Un inventar fără consecințe pentru cel care raportează este primul pas, nu concluzia. După ce lucrurile devin vizibile, urmează clasificarea: ce este acest lucru, ce rol joacă într-un proces și ce nivel de risc i se atribuie. Un instrument de rezumare pentru notițe interne necesită un regim diferit față de un instrument care participă la decizii privind acceptarea clienților sau evaluarea personalului. Această clasificare trebuie să se conecteze la structura de risc deja existentă, nu la un cadru nou separat. Un al doilea proces, informal, care este ignorat alături de cel existent, este exact motivul pentru care un al doilea proces alături de cel existent este ignorat este un model recognoscibil: oamenii urmează traseul cu mai puțină rezistență, și acel traseu devine vizibil doar atunci când cineva întreabă de el.
Apoi vine întrebarea cine mai supraveghează. O instalație de probă care a fost lăsată liberă în activitatea zilnică nu mai are, de regulă, un proprietar care evaluează rezultatele înainte ca acestea să fie utilizate. Aici devine relevant ce înseamnă supravegherea umană în practică: nu ca principiu abstract, ci ca întrebare concretă privind cine citește rezultatul înainte ca acesta să afecteze un client, un dosar sau o decizie.
Un director căruia i se pun întrebări despre acest lucru — de către un organism de supraveghere, un auditor, un consiliu de administrație — are două opțiuni: să spună că inventarul este complet, sau să spună că există un proces prin care acesta este făcut și menținut complet. A doua opțiune este mai onestă și, pe termen mai lung, mai solidă, pentru că o organizație care realizează activ un inventar are ceva demonstrabil, chiar și atunci când inventarul nu este încă finalizat. Ideea nu este că nu va mai apărea niciodată o instalație de probă neautorizată. Ideea este că există un mecanism care o găsește înainte ca un incident să o facă în locul dumneavoastră.
După ce a devenit vizibil ce AI a apărut fără a fi planificat, apare frecvent o altă întrebare: dacă această echipă a făcut deja acest lucru, fără ca cineva să-l organizeze, ce s-ar întâmpla dacă l-am organiza cu adevărat? Aceasta este o întrebare diferită de guvernanță, și se leagă de scanul de lucru al FTE TO AI, care calculează, pe fiecare sarcină, ce parte din muncă poate fi în mod rezonabil preluată de AI. În timp ce această pagină descrie cum obțineți control asupra a ceea ce deja funcționează, acel scan descrie, cu aceeași privire sobră asupra sarcinilor și riscurilor, ce se mai poate construi.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.