Multă monitorizare a utilizării AI apare ca o inițiativă separată: un formular nou, o întâlnire nouă, un tablou de bord nou. Pare complet în momentul lansării. Un an mai târziu s-a diluat. Nu pentru că conținutul era slab, ci pentru că se afla alături de structura existentă, în loc de în interiorul ei.
Întrebarea, deci, nu este doar ce trebuie monitorizat, ci și unde ajunge acea monitorizare. Un proces pe care nimeni nu trebuie să-l rețină, pentru că este deja parte dintr-o rutină care se desfășoară oricum, supraviețuiește. Un proces care cere un pas suplimentar din partea unor persoane deja ocupate este, în timp, omis. Nu este vorba de reticență. Este o consecință previzibilă a modului în care organizațiile gestionează timpul și atenția.
Fiecare organizație are deja un ritm: rapoarte trimestriale, comitete de risc, cicluri de audit, ședințe de echipă. Dacă monitorizarea utilizării AI introduce un ritm nou, acesta concurează cu tot ce există deja — și, de regulă, pierde. Nu există un punct pe ordinea de zi pentru el, niciun proprietar care să-l considere o parte esențială a funcției sale, niciun moment în care apare de sine stătător în discuție.
Dacă, în schimb, monitorizarea devine o întrebare care se pune deja — în comitetul de risc existent, în controlul intern existent, în linia de raportare existentă către conducere — nimeni nu trebuie să rețină ceva nou. Întrebarea „ce aplicații de AI au fost adăugate sau modificate” devine astfel la fel de firească precum „au apărut furnizori noi” sau „au existat incidente”. Modul exact în care se realizează această aliniere depinde de cum este deja structurată la dumneavoastră alinierea cu structura de risc existentă — acea structură este punctul de ancorare, nu ceva adăugat alături de ea.
Un document de monitorizare funcțional este suficient de scurt pentru a fi folosit repetat și suficient de specific pentru a semnala ceva atunci când se schimbă. El conține în orice caz:
Valoarea documentului nu se află în exhaustivitatea din prima zi. Aceasta este rareori realizabilă și nici nu este necesară. Valoarea se află în faptul că este actualizat, și că actualizarea nu necesită un efort separat, în plus față de ce se face deja.
Monitorizarea depinde de ce sunt oamenii dispuși să raporteze. De îndată ce a raporta echivalează cu riscul de a fi tras la răspundere pentru ceva, informația se blochează. Cineva care finalizează o sarcină cu un instrument de AI mai rapid decât se anticipa nu va raporta acest lucru dacă rezultatul este retragerea bugetului sau o discuție neplăcută. Lista rămâne astfel formal completă, dar goală în conținut — exact problema care perpetuează AI-ul din umbră.
Consecința este că monitorizarea funcționează doar dacă întrebările sunt puse fără a atrage sancțiuni. Nu pentru că utilizarea ar trebui să rămână fără consecințe, ci pentru că primul pas — a afla ce se întâmplă — necesită o atitudine diferită de al doilea pas — a evalua dacă este adecvat. Cine lasă aceste două etape să coincidă nu va obține un răspuns sincer la niciuna dintre ele.
Această distincție este și locul unde se întâlnesc guvernanța și responsabilitatea. Vizibilitatea pentru conducere nu trebuie să însemne că fiecare aplicație în parte este pusă pe masă; este vorba de un nivel de raportare care permite formularea unei evaluări fără a se pierde în detalii, așa cum este descris la un raport pentru consiliu care încape pe o singură pagină. Ce se află sub acest nivel — înregistrarea deciziilor privind aplicații concrete — este mai potrivit într-o listă de decizii de supraveghere decât în documentul care este transmis mai sus.
Dacă un document de politică este citit efectiv reprezintă o întrebare similară: un text pe care nimeni nu-l consultă nu oferă mai mult sprijin decât un proces de monitorizare pe care nimeni nu-l completează. Vezi în acest sens o politică de AI care este citită. Și pentru cei care se întreabă ce parte din această responsabilitate revine consiliului de conducere și ce parte revine guvernanței IT, există o distincție între ce trebuie să știe un membru al conducerii despre riscul AI și ce trebuie să știe un CIO despre riscul AI — ambele necesită niveluri diferite de detaliu în cadrul aceluiași proces de monitorizare.
O structură de monitorizare care se aliniază cu ceea ce există deja oferă, la un moment dat, o imagine fiabilă a aplicațiilor de AI utilizate și a scopului acestora. Această inventariere este o întrebare diferită de cât din munca de bază este efectiv realizată de AI și cu ce efect. Cine dorește să calculeze acest lucru per sarcină — ce parte a unei funcții sau proces poate fi transferată către AI, pe baza sarcinilor așa cum sunt executate în prezent — găsește acest lucru în scanul de lucru al FTE TO AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.