La supervisione umana viene spesso registrata come un ruolo: qualcuno che ne è responsabile, un nome in un registro, una casella spuntata. Questo è il punto di partenza, non il meccanismo in sé. La supervisione si realizza solo quando esiste un momento in cui una persona può vedere il risultato di un'applicazione IA, può comprenderlo e può correggerlo prima che quel risultato arrivi da qualche parte. Senza quel momento, il nome sotto la classificazione è una formalità.
Se la supervisione funziona in pratica dipende da una serie di elementi che non si combinano automaticamente. Deve esserci qualcuno che ha l'autorità per bloccare un risultato, non solo il compito di osservarlo. Deve esserci tempo per osservare, il che significa che il processo non deve essere organizzato in modo che il risultato dell'IA sia già stato elaborato prima che avvenga il controllo. E deve esserci una comprensione sufficiente di ciò che fa l'applicazione per poter riconoscere una deviazione. Un controllore che non può valutare il risultato non esercita alcuna supervisione, anche se il ruolo gli è stato formalmente assegnato.
Questo si collega a cosa significa l'alfabetizzazione IA per i suoi collaboratori: la supervisione senza comprensione dell'applicazione sottostante è supervisione sulla carta.
Una struttura di governance può stabilire chi è responsabile di cosa, quale livello di rischio ha un'applicazione e quali passaggi vi sono associati. Ciò che la struttura non fa è garantire che quella persona valuti effettivamente il risultato nel momento in cui conta. Questo è un dato organizzativo, non un dato tecnico. Una classificazione può essere corretta e la supervisione può comunque risultare vuota, perché la persona formalmente responsabile non ha il tempo, l'accesso o le conoscenze per verificare il risultato.
L'inventario e la classificazione rivelano dove questo rischio è maggiore: nelle applicazioni con un livello di rischio più elevato, o nelle applicazioni entrate al di fuori del percorso IT ordinario. Quest'ultimo gruppo è spesso il più difficile, perché chi vuole organizzare la supervisione su qualcosa che non è registrato deve prima trovarlo. Questo riguarda la domanda cosa fare con i collaboratori che utilizzano uno strumento che nessuno ha approvato: la supervisione sull'IA ombra inizia con il riconoscere che quell'applicazione esiste, non con una sanzione sul suo utilizzo.
Un'applicazione oggi sotto supervisione può essere cambiata domani. Un modello viene aggiornato, i dati in ingresso cambiano, oppure l'uso all'interno dell'organizzazione cresce da un compito semplice a qualcosa di più rilevante. Una supervisione impostata sulla situazione di un anno fa non corrisponde più a ciò che accade ora. Questo è uno dei motivi per cui la classificazione non è un esercizio unico; la frequenza con cui deve essere ripetuta dipende dal livello di rischio e dal grado in cui l'applicazione cambia, come approfondito in con quale frequenza deve riclassificare.
Questo significa anche che un registro ha valore solo se viene mantenuto. Un inventario redatto durante la prima scansione e non più aggiornato in seguito offre un quadro sempre più impreciso di dove sia necessaria la supervisione. La domanda su come un'organizzazione mantenga aggiornato quel registro è distinta dalla domanda su come il registro sia stato costruito, e merita attenzione a sé: vedi come mantenere aggiornato un registro IA.
Un consiglio di amministrazione a cui viene chiesto di dimostrare che esiste supervisione sull'uso dell'IA non può limitarsi a un elenco di ruoli. La dimostrabilità richiede una traccia: chi ha osservato quale risultato, in quale momento, con quale autorità di correzione. Questa traccia è rilevante anche nel momento in cui qualcosa va storto. La domanda su chi sia responsabile quando un'applicazione IA commette un errore non trova risposta nella sola classificazione, ma nella supervisione dimostrabile che ne è seguita. Questi due aspetti vengono facilmente confusi, mentre la distinzione è rilevante; vedi chi è responsabile quando un'applicazione IA commette un errore.
La supervisione riguarda anche ciò che viene inserito in un'applicazione. Un collaboratore che incolla dati aziendali in una finestra di chat gratuita colloca quei dati fuori da qualsiasi supervisione che l'organizzazione abbia predisposto, indipendentemente da quanto bene sia organizzata la supervisione sulle applicazioni approvate. Questo è un ambito di attenzione distinto all'interno della questione più ampia, approfondito in cosa fare con i dati aziendali in una finestra di chat gratuita.
Questa pagina descrive come funziona la supervisione come meccanismo: chi osserva, quando, con quale autorità, e come ciò viene rese dimostrabile. Le norme di contenuto che determinano quando la supervisione è obbligatoria, quanto deve essere rigorosa per categoria di rischio, e entro quali termini deve essere organizzata, non sono trattate qui. Il contenuto normativo cambia e viene mantenuto aggiornato altrove.
Organizzare la supervisione su un compito ha senso solo se è chiaro cosa comporta esattamente quel compito e quale parte di esso viene svolta da un'applicazione IA. Questa è una domanda diversa da quale ruolo o livello di rischio abbia un'applicazione; riguarda il compito stesso, suddiviso nei passaggi che un'applicazione IA può assumere e quelli che non si prestano a ciò. La scansione del lavoro di FTE TO AI calcola questo per ogni compito, così che diventi visibile quale parte del lavoro può essere trasferita e quale parte deve rimanere entro l'ambito della supervisione umana.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.