Molte iniziative di governance partono con un nuovo processo: un modulo, una fase di approvazione, un comitato che deve valutare l'uso dell'IA prima che questo inizi. Si assume che i collaboratori seguiranno questo processo perché esiste. Nella pratica, ciò avviene raramente. Chi può svolgere un'attività più velocemente con uno strumento che ha trovato da solo, non chiede l'autorizzazione a un comitato di cui non conosce l'agenda e non può stimare i tempi di attesa. Usa lo strumento e non ne parla.
Non si tratta di riluttanza. È una reazione razionale a un processo che si affianca al lavoro invece di farne parte. Un secondo processo richiede tempo, comporta incertezza sull'esito e non offre alcun vantaggio visibile a chi lo segue. La probabilità che venga ignorato è quindi maggiore della probabilità che venga rispettato.
La conseguenza non è che non si usi l'IA. La conseguenza è che si usa l'IA fuori dal controllo di chi ne è responsabile. L'elenco IT degli strumenti approvati resta allora una descrizione di ciò che è stato richiesto un tempo, non di ciò che viene effettivamente usato. Tra questi due elenchi può esserci una differenza notevole, e chi guarda solo all'elenco approvato non può vedere quella differenza.
Questo tocca direttamente la questione di chi è responsabile quando un'applicazione di IA commette un errore. Un dirigente che vuole poter attribuire la responsabilità deve sapere quale sistema ha influenzato una decisione. Se quel sistema non è mai stato registrato perché la procedura di registrazione è stata saltata, questa base manca proprio nel momento in cui è necessaria.
Il metodo che applichiamo non parte da un processo di approvazione ma da un'inventariazione che chiede invece di controllare. La differenza è minima nella forma e grande nell'effetto. Un collaboratore a cui viene chiesto cosa usa e per cosa, senza che questo abbia conseguenze per lui, non ha motivo di nascondere la risposta. Un collaboratore che sa che una risposta sincera può portare a un divieto o a una correzione, ha tutte le ragioni per adattare la risposta.
Questo è un punto vulnerabile del metodo, e preferiamo dichiararlo piuttosto che nasconderlo. Un'inventariazione senza sanzioni fornisce un quadro più onesto di un audit con conseguenze, ma non garantisce che ogni uso venga segnalato. Chi usa uno strumento che sospetta essere problematico può ancora tacere, anche senza una minaccia diretta. L'inventariazione abbassa la soglia per segnalare; non la elimina del tutto. Ciò che il metodo offre è una maggiore probabilità di ottenere un quadro completo rispetto a un processo che suggerisce già in anticipo una sanzione.
Un secondo processo viene ignorato. Un'integrazione a un processo esistente ha più probabilità di sopravvivere. Per questo classifichiamo l'uso dell'IA in base al ruolo e al livello di rischio all'interno della struttura di rischio che un'organizzazione già utilizza, invece di affiancarne una nuova. Ciò che viene classificato come alto rischio finisce nello stesso punto degli altri rischi elevati all'interno del registro dei rischi esistente. Questo significa anche che la domanda con quale frequenza è necessario riclassificare non richiede un nuovo calendario, ma si inserisce nel ciclo esistente di valutazione del rischio.
Questo collegamento non risolve tutto. Un registro IA compilato una sola volta diventa obsoleto nel momento in cui qualcuno adotta un nuovo strumento senza segnalarlo. Per questo la domanda come mantenere aggiornato un registro IA è tanto importante quanto la prima inventariazione. Un registro che non viene mantenuto torna, col tempo, a essere una descrizione del passato.
La supervisione sull'uso dell'IA viene spesso presentata come una questione tecnica: un sistema che monitora, una dashboard che segnala. Ma una supervisione efficace inizia con persone che capiscono perché segnalare ha senso e che sanno cosa succede alla loro risposta. È una questione di comportamento, non solo di tecnica, e si collega a cosa significa la supervisione umana nella pratica sul luogo di lavoro, e a cosa comporta concretamente l'alfabetizzazione sull'IA per i collaboratori. Senza questa comprensione, ogni processo, per quanto ben progettato, resta un modulo che le persone compilano perché è obbligatorio, non perché produce un risultato.
Questo approccio non offre alcuna certezza completa che tutte le applicazioni di IA vengano individuate. Abbassa la soglia per segnalare e si collega alle strutture esistenti, ma un'organizzazione che effettua un'inventariazione per la prima volta deve tenere conto del fatto che una parte dell'uso resterà invisibile, anche se, dopo un'inventariazione accurata, quella parte è generalmente più piccola di prima.
Un'inventariazione dell'uso dell'IA mostra cosa è in funzione e chi lo usa, ma non dice ancora nulla su quanta parte del lavoro sottostante possa effettivamente essere svolta dall'IA. Questa domanda è un passo successivo e trova risposta nella scansione del lavoro di FTE TO AI, che calcola per ogni attività quale parte del lavoro può essere trasferita. Chi ha già individuato quali strumenti vengono usati nell'organizzazione, può con questa scansione esaminare cosa significa quell'uso per l'organizzazione del lavoro stesso.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.