re-ai-gov Iscrivetevi alla lista d'attesa

Kennisbank

Il reparto che ha attivato da solo un abbonamento AI

Come nasce questa situazione

Un team leader cerca una soluzione a un problema ricorrente: troppo testo, troppo poco tempo, una scadenza che non si sposta. Da qualche parte trova uno strumento che rende il lavoro più veloce. Lo strumento costa poco, si può pagare con una carta di credito o un conto privato, e non richiede l'approvazione dell'IT. Nel giro di un giorno il reparto lo usa già. Nessuno ha fatto qualcosa di sbagliato — c'era un problema, c'era una soluzione, e il percorso tra i due è passato fuori da qualsiasi modulo.

Questo non è un'eccezione. È lo schema abituale non appena uno strumento di AI risulta più economico e più accessibile della procedura per richiederlo. Più pesante è il percorso di richiesta, maggiore è la probabilità che qualcuno lo salti. L'elenco IT delle applicazioni approvate non descrive allora ciò che accade realmente, ma ciò che è stato richiesto un tempo.

Perché non scompare da sé

Un abbonamento che funziona non viene disdetto. Il reparto che usa lo strumento vede il problema risolto, non il vuoto di governance che si è creato. Senza un motivo specifico, nessuno segnala spontaneamente che si lavora al di fuori della vista di IT o risk con uno strumento che elabora testi, dati clienti o documenti interni.

Lo schema è simile a un'estensione del browser con accesso alla sua posta: qualcuno installa qualcosa di piccolo, funziona, e la domanda su chi ci sta leggendo insieme non viene mai posta perché non c'è mai un momento in cui quella domanda si presenta da sé. Si forma così un insieme di applicazioni che, singolarmente, sono piccole e utili, e che insieme costituiscono una zona cieca più grande di chiunque ne sia individualmente responsabile.

Perché una caccia alle streghe non funziona

La prima reazione istintiva è spesso: individuare, indicare, far smettere. Questo ha l'effetto contrario. Chi sa che un abbonamento personale porta a un rimprovero non lo segnala — da quel momento usa lo strumento in modo più discreto, magari tramite un altro account, magari fuori dall'orario di lavoro. L'inventario diventa così non più completo ma più incompleto, e il problema si sposta verso un punto ancora più difficile da vedere.

Un censimento che funziona non parte dalla domanda "chi l'ha fatto" ma da "cosa sta girando qui". Senza conseguenze punitive ottiene risposta alla domanda su quali strumenti vengono usati, per quale lavoro e con quali dati. Con conseguenze punitive ottiene solo silenzio, e un reparto che nasconde ancora meglio il prossimo strumento.

Cosa si può fare, allora

Il primo passo non è correggere ma rendere visibile. Ciò significa porre domande alle persone che svolgono il lavoro, non solo ai sistemi gestiti dall'IT. Come costruire un inventario AI descrive come può presentarsi quel giro di domande: cosa viene usato, per quale compito, con quale input.

Non appena un'applicazione è visibile, la domanda successiva non è se può continuare a esistere, ma quale ruolo svolge e quale livello di rischio le corrisponde. Uno strumento che riassume memo interni richiede qualcosa di diverso da uno strumento che lavora con dati dei clienti. Questa classificazione determina cosa va documentato per ogni applicazione — non come esercizio burocratico, ma come base per poter dimostrare in seguito cosa accadeva e perché ciò era responsabile.

Il rischio di un abbonamento isolato non è un caso a sé. Lo stesso schema di qualcosa che entra senza essere richiesto si ripresenta con un'installazione pilota che non è mai stata disattivata e con un fornitore che ha integrato l'AI nel suo prodotto senza che ne sia stato discusso separatamente. Chi mappa un reparto con un abbonamento tutto suo farebbe bene a porre la stessa domanda più ampiamente — non come caccia ai trasgressori, ma come rilevazione di ciò che accade realmente.

Renderlo strutturale

Un censimento fatto una sola volta registra ciò che gira in quel momento. Senza ripetizione, è una fotografia che invecchia dal giorno in cui è stata scattata. Nuovi reparti scoprono nuovi strumenti, abbonamenti esistenti ottengono nuove funzioni, e la prossima zona cieca nasce nello stesso modo della precedente. Come riconoscere questo schema prima che si ripeta è descritto in dipendenti che usano uno strumento che nessuno ha approvato — come seguito del censimento, non come sua sostituzione.

Dall'inventario alla comprensione del lavoro

Un abbonamento che un reparto ha attivato da solo racconta di solito qualcosa sul lavoro stesso: c'era un compito che richiedeva troppo tempo, e qualcuno ha cercato una via d'uscita. Quella via d'uscita ora è visibile, ma la domanda di fondo resta — quale parte di quel lavoro si può trasferire in modo strutturale all'AI, e a quali condizioni. La scansione del lavoro di FTE TO AI calcola, per ogni compito, quale parte del lavoro può essere svolta dall'AI, indipendentemente da quale strumento un reparto avesse già trovato di propria iniziativa.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.