Sistemele IT înregistrează comportament, nu intenție. Asta le face un punct de start util pentru un inventar, și în același timp o sursă incompletă. Cine dorește să construiască un overview al AI-ului care este efectiv folosit, trebuie să știe care semnale spun ceva și care dau un fals sentiment de completitudine.
Traficul către domeniile furnizorilor de AI este de obicei semnalul cel mai concret disponibil. Un firewall sau proxy înregistrează care domenii sunt accesate, de pe care dispozitiv și cu ce frecvență. Acest lucru arată utilizare care nu trebuia raportată de nimeni. Nu arată ce s-a întâmplat în acea interacțiune: ce date au fost introduse, pentru ce sarcină, cu ce rezultat. Traficul către un domeniu de chatbot poate fi un test singular sau o rutină de lucru zilnică. Fără context suplimentar, această distincție rămâne invizibilă.
Facturile, abonamentele și debitările de pe cardul de credit arată care instrumente au fost achiziționate formal, adesea în afara achiziției IT oficiale. O echipă care încheie un abonament cu un card corporativ lasă o traseu pe care achizițiile sau financiarul îl pot găsi. Acest semnal este de încredere pentru ceea ce a fost achiziționat, dar nu spune nimic despre instrumentele gratuite, versiunile de probă sau conturile personale folosite pentru muncă. Mai multe despre ce oferă concret acest traseu se găsește pe pagina despre traseele de achiziție și licențiere ca sursă pentru un inventar AI.
Platformele single sign-on și furnizorii de identitate înregistrează care aplicații au fost conectate cu un cont corporativ. Acest semnal captează instrumente care au primit acces prin OAuth la, de exemplu, un cont de e-mail sau un mediu de documente. Este una dintre puținele surse care arată și ce drepturi a primit un instrument, nu doar că a fost folosit. Limitarea: instrumentele folosite fără conectare, printr-un browser și un cont separat, rămân în afara acestui semnal.
Software-ul instalat pe laptopuri și stații de lucru este de obicei vizibil prin platforma de gestionare pe care IT o folosește pentru patch-uri și actualizări. Acest lucru arată instrumentele AI instalate, dar îi lipsește tot ce funcționează printr-un browser web fără instalare. Pentru majoritatea aplicațiilor AI folosite astăzi, aceasta este o parte substanțială din total.
În organizațiile în care lucrează dezvoltatori, utilizarea modelelor AI prin API-uri este un traseu separat. Platformele de gestionare ale furnizorilor cloud și gateway-urile API înregistrează care chei sunt active și ce volum procesează. Acest semnal este adesea cel mai subestimat: un script separat care apelează un model pentru o sarcină internă cade în afara oricărei discuții despre "instrumente AI", pentru că nimeni nu îl recunoaște ca fiind unul.
Fiecare dintre aceste surse arată o parte a comportamentului, înregistrată de un sistem care nu a fost conceput pentru acest scop. Niciunul dintre aceste semnale nu înregistrează de ce este folosit un instrument, pentru ce sarcină, cu ce tip de date, sau cine este responsabil pentru el. Acesta este motivul pentru care un inventar bazat exclusiv pe tehnică oferă o imagine distorsionată. De ce lista pe care o furnizează IT nu corespunde în mod structural cu ceea ce se utilizează efectiv este explicat pe pagina despre de ce lista IT nu este corectă.
Semnalele tehnice reprezintă un motiv pentru a întreba, nu un substitut pentru întrebarea propriu-zisă. Un angajat care folosește un instrument pentru a crea texte de concept, a accelera o analiză sau a verifica cod, cunoaște lucruri pe care niciun log nu le înregistrează: de ce a ales acel instrument, ce face cu el, și ce ar pierde dacă acesta ar fi dezactivat. Această discuție aduce valoare doar dacă este dusă fără a fi trasă la răspundere. Cum se abordează acest lucru în practică este descris pe pagina despre a pune întrebări fără ca acestea să pară o tragere la răspundere.
Valoarea datelor de rețea, a traseelor de achiziție, a logurilor de identitate și a discuțiilor cu angajații apare doar atunci când sunt puse laolaltă într-o structură fixă: ce aplicație, ce rol, ce nivel de risc, ce proprietar. Fără această structură, rămâne o colecție de observații izolate. Cum se desfășoară pas cu pas această construcție este descris pe pagina despre construirea unui inventar AI, iar ce trebuie înregistrat exact per aplicație se găsește pe pagina despre câmpurile de înregistrare per aplicație AI.
Un overview complet al AI-ului folosit răspunde la întrebarea privind imaginea de ansamblu și riscul. Nu răspunde la întrebarea cât din munca propriu-zisă poate fi preluată de AI, și unde acest lucru se concretizează, per sarcină. De îndată ce este clar care instrumente sunt folosite în care rol, această întrebare ulterioară se impune de la sine. Scanul de lucru al FTE TO AI calculează per sarcină ce parte din muncă poate fi preluată de AI, ca supliment la overview-ul pe care îl oferă Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.