Un team vuole lavorare più velocemente e attiva uno strumento AI, di solito per testare qualcosa di concreto: un riassunto, una prima bozza, una classificazione. Non c'è un percorso di approvazione perché è "solo una prova". La prova funziona, o funziona abbastanza bene, e scompare nel processo quotidiano senza che sia mai stata presa una decisione di mantenerla. Non c'è mai stato un momento in cui qualcuno ha scelto consapevolmente: questo lo inseriamo nel nostro inventario AI, per questo c'è un proprietario, questo rientra in quel livello di rischio. C'era solo un momento di inizio, e quel momento si radica in un modo di lavorare che nessuno ha più toccato.
Fermare un banco di prova richiede una decisione. Continuare non richiede nulla. Finché nessuno segnala un incidente o una parte esterna chiede una prova di controllo, non c'è motivo di tornare su qualcosa che è già diventato semplicemente lavoro ordinario. Le persone che usano lo strumento non hanno alcun interesse a portarlo all'attenzione: funziona, fa risparmiare tempo, e segnalarlo sembra rischiare di vederlo tolto. Così una soluzione temporanea rimane strutturale, non perché nessuno la conosca, ma perché nessuno pone la domanda che porterebbe a chiuderla.
È naturale pensare che una panoramica del software approvato renda tutto visibile. Quella panoramica mostra cosa è stato acquistato, non cosa viene usato. Un banco di prova spesso passa fuori da quel canale: un account gratuito, un plugin del browser, un abbonamento separato su una carta di team. Lo stesso schema si presenta con un'estensione del browser con accesso alla vostra posta, con un reparto con un abbonamento proprio al di fuori degli acquisti centrali, e con dati aziendali incollati in una finestra di chat gratuita senza che dietro ci sia un contratto con clausole di trattamento dati. Nessuna di queste situazioni compare in un elenco IT, perché nessuna è mai stata registrata come progetto.
Il solo modo per sapere cosa gira davvero è chiederlo. Non come controllo a posteriori, ma come apertura: cosa usate, per cosa, e da quando. Chi pone questa domanda con la minaccia di sanzioni sullo sfondo non riceve risposta, oppure una risposta incompleta. I collaboratori che usano uno strumento che nessuno ha approvato hanno qualcosa da perdere nell'essere onesti e nulla da guadagnare. È esattamente la tensione che emerge con i collaboratori che usano uno strumento che nessuno ha approvato: senza un invito sicuro a cui rispondere, il banco di prova resta sotterraneo, e non scompare, diventa solo più silenzioso.
Un inventario senza conseguenze per chi segnala è il primo passo, non la conclusione. Dopo aver reso visibile, segue la classificazione: cos'è questo, che ruolo gioca in un processo, e quale livello di rischio gli corrisponde. Uno strumento di riassunto per note interne richiede un regime diverso da uno strumento che partecipa alle decisioni sull'accettazione di un cliente o sulla valutazione del personale. Quella classificazione deve inserirsi nella struttura di rischio già esistente, non in un quadro nuovo accanto ad essa. Un secondo processo informale che viene ignorato accanto a quello esistente è esattamente il motivo per cui un secondo processo accanto a quello esistente viene ignorato è uno schema riconoscibile: le persone seguono il percorso con minore resistenza, e quel percorso diventa visibile solo quando qualcuno lo chiede.
Poi viene la domanda su chi continua a controllarlo. Un banco di prova che è stato lasciato libero nel lavoro quotidiano di solito non ha più un proprietario che valuta i risultati prima che vengano usati. È qui che cosa significa la supervisione umana nella pratica diventa rilevante: non come principio astratto, ma come domanda concreta su chi legge l'output prima che riguardi un cliente, un fascicolo o una decisione.
Un amministratore interrogato su questo — da un'autorità di controllo, un revisore, un consiglio di sorveglianza — ha due opzioni: dire che la panoramica è completa, oppure dire che il processo esiste per renderla e mantenerla completa. La seconda opzione è più onesta e, sul lungo termine, più solida, perché un'organizzazione che censisce attivamente ha qualcosa di dimostrabile, anche quando l'inventario non è ancora finito. Il punto non è che non nascerà mai più un banco di prova non autorizzato. Il punto è che esiste un meccanismo che li individua prima che lo faccia un incidente per voi.
Una volta reso visibile quale AI è nata senza pianificazione, spesso emerge un'altra domanda: se questo team faceva già questo, senza che nessuno lo organizzasse, cosa succederebbe se lo organizzassimo davvero? Questa è una domanda diversa dalla governance, e rientra nella scansione del lavoro di FTE TO AI, che calcola per ogni compito quale parte del lavoro può ragionevolmente essere assunta dall'AI. Mentre questa pagina descrive come ottenere controllo su ciò che gira già, quella scansione descrive cosa, con lo stesso sguardo pragmatico su compiti e rischi, può ancora essere costruito.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.