Kennisbank

Classificare non è un esercizio da fare una sola volta

Una classificazione di un'applicazione AI descrive una situazione in un determinato momento: quale modello, quale applicazione, quali utenti, quale rischio. Quella situazione cambia. Un fornitore modifica un modello, un team utilizza uno strumento per qualcosa diverso da ciò per cui è stato acquistato, un fornitore aggiunge una funzione senza che nessuno chieda l'autorizzazione per farlo. La classificazione che avete effettuato l'anno scorso non descrive quindi automaticamente ancora la situazione di oggi.

La domanda "con quale frequenza" non ha una risposta fissa valida per ogni organizzazione. Dipende da quante applicazioni AI ci sono, quanto velocemente cambiano, quanto sono diversi i team che ci lavorano, e quanto è severa la supervisione del settore in cui opera. Un momento fisso annuale è un punto di partenza, non una garanzia che non vi perdiate nulla nel frattempo.

Cosa non risolve un intervallo fisso

Una riclassificazione annuale o semestrale funziona bene per le applicazioni che già conoscete e che sono entrate tramite un percorso formale. Per le applicazioni che nessuno ha segnalato, un intervallo fisso non funziona, semplicemente perché non c'è nulla da rivalutare a una data fissa. Cosa fare con i collaboratori che utilizzano uno strumento che nessuno ha approvato descrive perché questa domanda non si risolve con un appuntamento ricorrente in agenda, ma con un altro modo di porre domande all'organizzazione.

Inoltre, il rischio non cambia solo in base a cosa fa un'applicazione, ma anche in base a cosa viene inserito al suo interno. Una finestra di chat che oggi viene utilizzata per riassumere testo pubblico, può domani essere utilizzata per riassumere un contratto. Cosa fare con i dati aziendali in una finestra di chat gratuita mostra come il livello di rischio di uno stesso strumento possa cambiare senza che lo strumento stesso cambi.

Segnali che richiedono una riclassificazione, indipendentemente dalla data

Oltre a un momento fisso, ci sono eventi che richiedono una riclassificazione intermedia. Una modifica nella funzione di un'applicazione, un'estensione del gruppo di utenti, un incidente o un quasi-incidente, una modifica nelle condizioni del fornitore, o un segnale da parte di un collaboratore che indica un utilizzo diverso da quello previsto. Questi segnali non hanno tutti lo stesso peso, e non tutte le organizzazioni li noteranno con la stessa rapidità.

La questione di chi reagisce a questi segnali, e chi ha la titolarità della riclassificazione stessa, è una questione separata. Chi è responsabile quando un'applicazione AI commette un errore descrive che la responsabilità viene spesso stabilita solo nel momento in cui qualcosa va storto, mentre in realtà questa domanda avrebbe dovuto trovare risposta già alla prima classificazione.

Perché un secondo processo tende a scomparire più rapidamente del processo già esistente

Un ritmo di riclassificazione affiancato ai processi di rischio esistenti, senza integrarsi con essi, perde solitamente priorità entro un anno. È un passaggio in più che nessuno richiede finché qualcosa non va storto, e proprio per questo resta in sospeso. Perché un secondo processo affiancato a quello esistente viene ignorato spiega perché la riclassificazione funziona in modo più efficace quando è integrata nella gestione del rischio esistente, invece di essere un percorso separato che compete per attenzione con il resto dell'organizzazione.

Cosa non può fare il metodo

Un metodo di classificazione può offrire una struttura per valutare in modo coerente le applicazioni AI in base al ruolo e al livello di rischio, e questa struttura può essere applicata in modo ripetibile. Ciò che il metodo non può fare è garantire che vediate tutto. Una classificazione è tanto valida quanto le informazioni su cui si basa, e queste informazioni provengono in parte da persone che possono avere un motivo per non segnalare qualcosa. Un collaboratore che utilizza uno strumento non approvato non lo segnala spontaneamente se si aspetta che ne segua una sanzione.

Il metodo inoltre non può prevedere quando un fornitore modifica un modello, o quando un'applicazione che oggi è a basso rischio viene domani utilizzata in modo diverso. La riclassificazione resta quindi una questione di ripetizione e di organizzazione della trasparenza, non di un sistema che si configura una sola volta e poi resta aggiornato autonomamente. Come mantenere aggiornato quel registro senza che, dopo pochi mesi, torni a essere superato, è descritto in come mantenere aggiornato un registro AI, in cui è centrale la distinzione tra un inventario unico e un processo continuo.

A ciò si collega anche la domanda su cosa significhi in pratica la supervisione sull'AI tra un momento di riclassificazione e l'altro: chi controlla, con quale frequenza, e sulla base di quali segnali. Cos'è la supervisione umana in pratica chiarisce la distinzione tra la supervisione come una semplice formalità e la supervisione come qualcosa che accompagna continuamente l'utilizzo.

La domanda successiva, una volta stabilita la classificazione

Una classificazione indica quali applicazioni esistono, quale ruolo hanno e quale livello di rischio è ad esse associato. Quella classificazione non indica quanta parte del lavoro viene effettivamente svolta dall'AI, e quanto spazio residuo ci sia per attività. Chi vuole rispondere a questa domanda non può limitarsi a un inventario dei rischi; occorre uno sguardo sul lavoro stesso, attività per attività. La werkscan (analisi del lavoro) di FTE TO AI calcola, per ogni attività, quale parte di essa può essere assunta dall'AI, come complemento al quadro fornito da una classificazione.