Un echipă de marketing are nevoie de un asistent de scriere. Un analist financiar dorește un instrument care rezumă foi de calcul. Niciunul dintre ei nu așteaptă un proces de achiziție care durează luni. Există un card de credit, o adresă de e-mail, și în zece minute există un abonament pe care departamentul îl plătește el însuși, îl gestionează el însuși și îl folosește el însuși. Departamentul IT nu știe nimic despre asta. Nu există niciun motiv să se raporteze, pentru că nu s-a făcut nimic greșit — s-a rezolvat doar o problemă.
Cea mai mare parte a AI-ului din umbră nu începe cu o încercare de a eluda regulile. Începe cu o sarcină care trebuie făcută mai rapid, un termen limită care nu așteaptă un proces de aprobare, și un instrument care este accesibil fără intervenția altcuiva. Departamentul care se abonează nu vede asta ca pe o decizie IT. Se simte ca un consumabil de birou, nu diferit de o licență software pe care toată lumea o folosea deja înainte de a exista o politică centrală de achiziții. Faptul că un model de limbaj procesează date ale companiei, citește date despre clienți sau generează text de proiect care ajunge în exterior nu reprezintă, pentru utilizator, o întrebare de guvernanță. Este pur și simplu muncă.
Aceeași dinamică se manifestă în cazul unui furnizor care a integrat AI în produsul său fără ca despre asta să se fi purtat o discuție separată: funcționalitatea apare într-o actualizare, nimeni nu semnează nimic pentru ea, și organizația o folosește înainte ca cineva să stabilească cine este responsabil pentru asta.
Un anunț că instrumentele neautorizate nu sunt permise schimbă puțin. Departamentul care are abonamentul îl percepe ca pe o soluție care funcționează, nu ca pe un risc care trebuie raportat. O interdicție fără alternativă produce două lucruri: abonamentul intră în subteran, sau echipa renunță la el și munca devine din nou mai lentă. Niciuna dintre aceste variante nu este ceea ce își dorește o organizație.
În plus, un astfel de abonament rareori este o decizie unică. Devine parte din fluxul de lucru, se conectează cu alte instrumente, este folosit în procese care în prezent depind de el. Ceea ce începe ca un experiment devine o componentă permanentă a modului în care lucrează echipa — exact tiparul vizibil și în cazul unei configurații de test care nu a fost niciodată dezactivată: nimeni nu a decis să o facă permanentă, dar nimeni nu a decis nici să o stopeze.
Reflexul de a depista AI-ul din umbră și de a mustra utilizatorul pentru asta are efectul opus. Cine știe că o raportare duce la o mustrare, nu raportează. Abonamentul continuă să existe, doar mai puțin vizibil. Departamentul devine mai precaut în privința a ce raportează, nu mai atent în privința a ce folosește.
Ce funcționează, în schimb, este să întrebați fără ca la asta să fie legată o sancțiune. O echipă care folosește un instrument pentru a accelera o sarcină are de obicei un motiv pentru asta pe care organizația vrea să-l cunoască: un proces prea lent, o sarcină care devine suprasolicitantă, o nevoie pe care oferta existentă nu o acoperă. Vedeți cum este descris acest lucru la angajați care folosesc un instrument pe care nimeni nu l-a aprobat — punctul de intrare nu este abaterea, ci nevoia din spatele ei.
Primul pas nu este aplicarea de sancțiuni, ci inventarierea: ce instrumente există, cine le folosește, pentru ce sarcină și cu ce date. Acest lucru nu se realizează prin lista IT — aceasta înregistrează ce a fost aprobat, nu ce se folosește. Se realizează prin întrebări, într-un mod care nu conține nicio amenințare.
De îndată ce există o imagine clară asupra a ceea ce funcționează, poate urma clasificarea: ce rol joacă instrumentul, ce nivel de risc i se atribuie și ce formă de supraveghere este adecvată. Nu fiecare abonament pe care un departament l-a încheiat singur constituie o problemă. Un instrument care rescrie text public se află într-o categorie diferită de un instrument care procesează date despre clienți fără ca cineva să știe unde se duc aceste date. Distincția dintre aceste categorii este exact ceea ce reprezintă esența supravegherii umane în practică: nu fiecare utilizare necesită același grad de control, dar fiecare utilizare necesită să se cunoască faptul că există.
Apoi urmează o structură de guvernanță care se conectează la ce există deja — nu un proces nou paralel cu cadrul de risc existent, ci o extindere a acestuia. O organizație care tratează riscul AI separat de restul managementului de risc riscă ca acest al doilea sistem să fie ignorat, așa cum se descrie la un al doilea proces paralel cu cel existent, care este ignorat. Abordarea care rezistă este cea care se conectează la ce face organizația deja pentru a gestiona riscul.
Un abonament pe care un departament l-a încheiat singur este de obicei un semnal că ceva trebuie să se facă mai rapid decât permite procesul actual. Această întrebare — ce parte a muncii se poate accelera și unde acest lucru se poate face în mod structurat, în loc să se întâmple nevăzut — este exact la ce răspunde scanul de muncă al FTE TO AI. Scanul de muncă calculează, pe sarcină, ce parte a muncii poate fi preluată de AI, astfel încât nevoia care a dus la un abonament din umbră să găsească un loc într-un proces pe care organizația îl cunoaște și îl gestionează cu adevărat.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.