Non ogni applicazione di AI in un'organizzazione richiede la stessa velocità. Alcune questioni richiedono attenzione immediata, altre possono essere inserite in un normale ciclo di pianificazione. Il problema è che questa classificazione viene raramente rese esplicita. Senza classificazione, tutto riceve la stessa urgenza, o — più spesso — nessuna urgenza.
La domanda se qualcosa deve avvenire ora o può attendere non è una questione di preferenza. Dipende da una serie di fattori che insieme determinano quanto pesa un'applicazione.
Il livello di rischio dell'applicazione è il primo fattore. Un sistema che prende decisioni riguardanti le persone — assunzione, concessione di credito, accesso a servizi — pesa diversamente da uno strumento che riassume testi per uso interno. Cosa significhi esattamente un livello di rischio alto per gli obblighi di un'organizzazione, e perché ciò non sia uguale per ogni applicazione, è descritto in cosa significa un livello di rischio alto per la sua organizzazione.
Il ruolo dell'organizzazione è il secondo fattore. Un'organizzazione che sviluppa o adatta essa stessa un sistema di AI porta responsabilità diverse rispetto a un'organizzazione che acquista e utilizza un sistema già pronto. Questo ruolo può inoltre cambiare senza che vi sia una scelta consapevole alla base: chi effettua il finetuning di un modello, lo adatta o lo utilizza in modo diverso da quello previsto, può con ciò passare da utilizzatore a fornitore. Dove si trovi esattamente questo confine è illustrato in cosa cambia se adatta un modello personalmente e in è fornitore o utilizzatore, da cosa dipende.
Il terzo fattore è se l'applicazione rientra nell'ambito di applicazione. Non ogni sistema chiamato AI rientra negli stessi obblighi; alcune applicazioni sono escluse o rientrano in un regime più leggero. Quali applicazioni rientrano fuori ambito e perché è descritto in quali applicazioni rientrano fuori ambito.
Questi tre fattori — livello di rischio, ruolo, ambito di applicazione — determinano insieme dove un'applicazione si colloca nella linea temporale. Un'applicazione ad alto rischio in cui l'organizzazione agisce come fornitore richiede una velocità diversa rispetto a un'applicazione a basso rischio che a breve potrebbe rientrare fuori ambito.
La classificazione non è definitiva. Un'applicazione che oggi è considerata gestibile potrebbe non esserlo più domani — non perché le regole cambiano, ma perché l'applicazione stessa cambia. Un modello che viene adattato, un sistema che riceve un nuovo compito, uno strumento che passa da progetto pilota interno alla produzione: ognuno di questi passaggi può far cambiare il ruolo o il livello di rischio.
Anche i cambiamenti organizzativi giocano un ruolo. Una fusione, un nuovo fornitore, un'estensione dell'uso a un altro reparto — tutti questi eventi possono spostare un'applicazione che prima era considerata 'può essere pianificata' verso 'deve avvenire ora'. Quando un ruolo cambia e dove si trova esattamente questo punto di svolta è illustrato in quando cambia il suo ruolo, da cosa dipende.
Ciò significa che una classificazione unica non è sufficiente. Ciò che oggi figura come voce pianificata nell'agenda può, a causa di un cambiamento altrove nell'organizzazione, assumere un peso diverso. Una revisione periodica fissa è quindi parte di ogni classificazione che deve resistere nel tempo — non come passaggio aggiuntivo, ma come condizione per mantenere la classificazione attuale.
Una classificazione chiara previene due errori opposti. Il primo è che tutto venga trattato come urgente, per cui le priorità si dissolvono e l'attenzione si frammenta su applicazioni che comportano poco rischio. Il secondo è che nulla venga considerato urgente, per cui applicazioni con rischio reale restano per anni fuori dal radar — spesso perché nessuno le ha mai classificate.
La classificazione stessa non è un documento unico ma una struttura che si muove insieme all'organizzazione. Fornisce una panoramica di ciò che richiede attenzione nel breve termine, ciò che può essere inserito in un processo regolare e — punto cruciale — ciò che deve essere nuovamente valutato non appena la situazione cambia. Precisamente questa distinzione, e la domanda da cosa dipenda, è ulteriormente illustrata in cosa deve avvenire ora e cosa può essere pianificato, da cosa dipende.
Questa classificazione presuppone che si sappia quali applicazioni esistono. Nella pratica, questo non è affatto sempre il caso. Oltre ai sistemi approvati tramite IT o acquisti, in quasi ogni organizzazione girano strumenti che nessuno ha richiesto e nessuno ha registrato — un assistente per foglio di calcolo qui, un generatore di testi là, utilizzati da persone che volevano risolvere un problema e non volevano seguire una procedura. Questa AI ombra non appare nell'elenco IT, e chi chiede informazioni senza che vi sia nulla in gioco per l'utilizzatore riceve più facilmente una risposta sincera rispetto a chi minaccia immediatamente una sanzione. Senza questo inventario, ogni classificazione per urgenza è una classificazione di una parte della realtà, non del tutto.
Questa pagina riguarda la classificazione: cosa pesa molto, cosa pesa poco, cosa richiede attenzione ora e cosa può attendere. Un'altra domanda, complementare, è cosa produca effettivamente un'applicazione di AI all'interno di un compito. La scansione del lavoro di FTE TO AI calcola per ciascun compito quale parte del lavoro possa essere assunta dall'AI, offrendo così un quadro concreto accanto alla classificazione di governance: non solo se un'applicazione comporta rischio, ma anche cosa contribuisce al lavoro stesso.
La Responsible AI Scan è in fase di sviluppo. Chi desidera utilizzare l'inventario, la classificazione e il set di governance non appena saranno disponibili può iscriversi alla lista d'attesa.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.