Molte organizzazioni presumono che la classificazione come fornitore o utilizzatore sia definita una volta per tutte: un sistema viene acquistato da qualche parte, e con ciò il ruolo della vostra organizzazione è determinato. Nella pratica la questione è più sfumata. Il ruolo che avete nei confronti di un sistema di IA dipende da cosa ne fate, non da dove proviene il sistema. La stessa organizzazione può essere utilizzatore per un sistema e, senza che nessuno l'abbia definito esplicitamente, fornitore per un altro.
La domanda centrale non è chi ha costruito il sistema, ma chi lo immette sul mercato o lo utilizza sotto il proprio nome. Un'organizzazione che acquista un sistema di IA già pronto e lo utilizza per il proprio processo è generalmente utilizzatore. Nel momento in cui quella stessa organizzazione adatta, sviluppa ulteriormente, rietichetta o offre ad altri un sistema sotto il proprio nome, questo quadro cambia. Anche il grado di controllo sul modello ha un ruolo: chi determina con quali dati viene addestrato, chi stabilisce i parametri, chi si assume la responsabilità del comportamento del sistema in produzione. Queste domande non trovano risposta una sola volta al momento dell'acquisto, ma restano rilevanti per tutto il periodo in cui il sistema è in uso.
Il ruolo di un'organizzazione non è quindi un'etichetta fissa, ma il risultato dell'uso effettivo. Ciò significa che modifiche interne — una nuova applicazione di un sistema esistente, un adattamento da parte del proprio reparto IT, la fornitura a valle di una funzione di IA a un cliente o a una società figlia — possono modificare la classificazione senza che sia stata presa alcuna decisione formale in anticipo. Cosa questo significhi in pratica, e in quale momento un ruolo effettivamente cambia, viene approfondito nella pagina su il momento in cui il vostro ruolo nei confronti di un sistema di IA cambia. È importante notare che questo cambiamento spesso non viene notato, poiché avviene a livello di reparto, lontano da dove viene definita la politica aziendale.
La domanda se siete fornitore o utilizzatore non è isolata. È intrecciata con la domanda su quale livello di rischio ha un'applicazione, e con la domanda se un'applicazione rientri nell'ambito della normativa. Un sistema utilizzato come utilizzatore con un impatto basso può richiedere un trattamento diverso rispetto a quando quella stessa organizzazione adatta ulteriormente il sistema, avvicinandosi così al ruolo di fornitore. Cosa significhi concretamente un livello di rischio più elevato per la propria organizzazione è descritto nella pagina su cosa significa un livello di rischio elevato per la propria organizzazione. Inoltre, non tutte le applicazioni rientrano nell'ambito dei medesimi requisiti; quali applicazioni ne restano escluse e da cosa dipende è indicato nella pagina su quali applicazioni rimangono fuori dall'ambito.
La ragione per cui questa classificazione resta poco chiara per molte organizzazioni non è l'assenza di norme. Il testo attuale e i criteri precisi si trovano altrove e non cambiano per effetto di questo articolo. Il problema sta a monte: per sapere quale ruolo si applica, occorre prima sapere quali sistemi di IA sono effettivamente in uso, da chi, e con quale grado di adattamento. Questo inventario manca nella maggior parte delle organizzazioni. L'elenco ufficiale degli strumenti approvati dal reparto IT descrive raramente ciò che viene realmente utilizzato. I reparti adottano strumenti, adattano modelli con dati propri, o integrano una funzione di IA in un processo interno, senza che ciò venga registrato in modo centralizzato da nessuna parte. Chi vuole sapere se l'organizzazione è fornitore o utilizzatore deve quindi prima sapere cosa è in funzione — e questa è una domanda a cui non si risponde con un documento di policy, ma con un inventario che ha il coraggio di chiedere alle persone cosa utilizzano, senza collegarvi alcuna forma di rendiconto punitivo.
Poiché il ruolo di un'organizzazione può cambiare senza una decisione formale, è importante per il consiglio di amministrazione e gli organi di controllo che le rendicontazioni ne tengano conto. Un approccio di governance basato su una ripartizione statica dei ruoli non colglierà il momento in cui un adattamento interno porta effettivamente l'organizzazione in una posizione diversa. Come una politica di IA possa essere formulata in modo da rendere visibili questi cambiamenti invece di occultarli, e che venga effettivamente letta da chi ne è responsabile, viene trattato nella pagina su una politica di IA che si allinea alla pratica invece che restare nel cassetto.
La domanda se la vostra organizzazione sia fornitore o utilizzatore riguarda la responsabilità e gli obblighi. Non dice ancora nulla su cosa significhi l'IA per il lavoro stesso: quali compiti vengono ripresi, modificati o supportati. Questa domanda si colloca a valle della determinazione del ruolo, ma richiede uno sguardo diverso — non sulla governance, ma sul contenuto del lavoro. La scansione del lavoro di FTE TO AI calcola per ogni compito quale parte del lavoro può essere ripresa dall'IA, indipendentemente dal ruolo che l'organizzazione assume nei confronti del sistema sottostante.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.