Un angajat lipește o bucată de text într-o fereastră de chat gratuită pentru că merge mai rapid decât sistemul intern. O echipă își face abonament la un instrument AI pentru că cererea pentru ceva oficial ar dura săptămâni. Un furnizor adaugă funcționalitate AI la un software care este deja în uz de ani de zile, fără ca despre asta să se fi purtat o discuție. Niciunul dintre acești oameni nu încearcă să ascundă ceva. Ei încearcă să-și facă treaba.
Aceasta este esența AI-ului din umbră: nu apare din rea-voință, ci dintr-un gol între ceea ce oamenii au nevoie și ce oferă procesul formal. Cât timp acest gol există, AI-ul din umbră continuă să apară, indiferent câtă politică se scrie.
Majoritatea organizațiilor au un inventar al software-ului aprobat. Acel inventar este un punct de start, nu o reflectare a realității. Ceea ce oamenii folosesc efectiv este aproape întotdeauna cu un pas înainte: întrebarea cum preveniți ca datele companiei să ajungă într-o fereastră de chat gratuită ilustrează cât de simplu poate un instrument să scape de sub orice control. Același lucru este valabil pentru un departament care își face din proprie inițiativă un abonament pentru că traseul obișnuit pare prea lent, sau pentru o extensie de browser care obține acces la e-mail fără să existe o aprobare separată pentru asta. Niciuna dintre aceste situații nu apare pe o listă IT. Dar ele există.
Există o tendință de a trata AI-ul din umbră ca o problemă de aplicare a regulilor: interzicere, blocare, sancționare. Acest lucru are efect contrar. Cine știe că un răspuns sincer duce la o problemă, nu mai dă un răspuns sincer. Instrumentul nu dispare, devine mai invizibil. Exact opusul a ceea ce are nevoie o organizație.
Un al doilea motiv pentru care nu se rezolvă de la sine: guvernanța existentă este adesea construită pentru software pe care îl cumpărați și îl instalați, nu pentru un serviciu pe care cineva îl deschide într-un browser și îl abandonează a doua zi. O configurație de probă care cândva era menită să fie temporară arată cum ceva mic, fără un moment clar de evaluare, poate continua ani de zile fără ca nimeni să se simtă responsabil. Fără un proces care observă structural acest tip de utilizare, ea rămâne sub radar, indiferent cât de bune sunt intențiile.
Singura modalitate de a afla ce se întâmplă este să întrebați. Nu ca un control, ci ca o inventariere. Angajații care știu că un răspuns sincer nu duce la o discuție cu HR, vor da acel răspuns sincer. Aceasta necesită un ton și un proces care clarifică de la început: acest lucru este despre obținerea unei imagini de ansamblu, nu despre a trage pe cineva la răspundere.
Aceasta include și atenția la modul în care noile procese sunt puse alături de cele existente. Un al doilea proces plasat alături de cel existent, fără ca primul să fie adaptat sau retras, este adesea ignorat, pur și simplu pentru că oamenii rămân la obiceiul lor. O inventariere care vine ca o obligație suplimentară peste munca existentă primește același tratament.
Odată ce este clar ce se folosește cu adevărat, urmează următoarea întrebare: ce face acel instrument și ce risc este asociat cu el. Un instrument care rezumă text pentru uz intern necesită altceva decât un instrument care participă la decizii privind acceptarea clienților sau evaluarea personalului. Această clasificare pe rol și nivel de risc este ceea ce transformă un inventar în ceva util: o bază pe care consiliul de administrație, CIO-ul sau General Counsel poate explica ce se întâmplă și de ce acest lucru este justificabil.
Acest strat de guvernanță se conectează la structura de risc pe care o organizație o are deja, nu la un cadru nou paralel. Conținutul regulilor pe care trebuie să le respecte aplicațiile AI se schimbă și este actualizat în altă parte; ce contează aici este că organizația are o modalitate funcțională de a afla ce rulează, cine este responsabil pentru asta și cum poate fi demonstrat acest lucru consiliului de administrație sau autorității de supraveghere.
Odată ce este clar ce AI se folosește efectiv și cu ce risc este asociat acest lucru, apare de la sine o altă întrebare: ce parte din muncă ar putea fi de fapt preluată de o aplicație AI și ce parte nu. Aceasta este o întrebare diferită de cea a aprobării și supravegherii, dar este una care rezultă logic din ea. Scanul de lucru al FTE TO AI calculează pe sarcină ce parte din muncă poate fi preluată de AI, pe baza a ceea ce implică efectiv o funcție. Acolo unde Responsible AI Scan aduce ordine în ceea ce rulează deja, scanul de lucru arată ce mai este de câștigat.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.