Kennisbank

Quando l'adattamento di un modello diventa una responsabilità propria?

Un modello che acquista e utilizza senza modifiche rappresenta una situazione diversa da un modello sottoposto a finetuning, riaddestrato su dati propri, o combinato con altri sistemi. La domanda pertinente non è se ciò sia consentito, ma cosa cambia nel suo ruolo. Questa pagina descrive da cosa dipende questa classificazione. Il contenuto normativo attuale si trova altrove; qui si tratta del meccanismo che determina quando qualcosa cambia e cosa fare internamente al riguardo.

Da cosa dipende la classificazione

Se l'adattamento di un modello modifica il suo ruolo dipende da una serie di fattori che deve stabilire caso per caso, non da un confine fisso uguale per ogni modello.

• La natura dell'adattamento. Un modello che richiama soltanto tramite un'interfaccia è diverso da un modello di cui modifica i pesi, che sottopone a finetuning su dati propri, o che combina con altri modelli o fonti di dati.
• Cosa fa l'adattamento al rischio. Un adattamento che cambia lo scopo del modello, amplia il pubblico destinatario, o fa ricadere il risultato in un altro ambito, pesa diversamente da un adattamento che modifica soltanto la lingua o lo stile.
• Chi effettua l'adattamento e perché. Un finetuning interno per un processo specifico è una situazione diversa da un adattamento che rende il sistema idoneo a essere offerto a terzi.
• Se il modello sottostante aveva già un ruolo e un livello di rischio. L'adattamento di un sistema già classificato come ad alto rischio pesa diversamente dall'adattamento di un sistema senza tale qualificazione.

Questi fattori agiscono insieme. Nessuno di questi punti è determinante di per sé; la combinazione stabilisce se l'adattamento modifica la sua posizione.

Cosa cambia quando la situazione cambia

Se l'adattamento è sufficientemente rilevante, generalmente non cambia soltanto la qualificazione del modello ma anche ciò che si richiede all'organizzazione: documentazione diversa, responsabilità interna diversa, eventualmente un'altra parte responsabile del complesso. Questo meccanismo, e la distinzione tra una parte che utilizza soltanto un modello e una parte che contribuisce a definirlo, è illustrato su la pagina che descrive la distinzione tra fornitore e utilizzatore. Quando esattamente un adattamento è sufficientemente rilevante da far ribaltare tale ruolo è una domanda a cui va risposto separatamente per ciascun sistema; il meccanismo generale sottostante è descritto su la pagina sul momento in cui il suo ruolo cambia.

Le conseguenze di tale ribaltamento dipendono a loro volta dal livello di rischio che il modello adattato riceve. Un modello adattato che rientra in una categoria ad alto rischio comporta obblighi diversi rispetto a un modello adattato che ne resta fuori. Cosa significhi in pratica un livello di rischio elevato per i processi interni e la vigilanza è descritto su la pagina sulle conseguenze di un livello di rischio elevato per la sua organizzazione. Al contrario, è anche possibile che un adattamento mantenga un sistema proprio fuori dalla categoria più severa, o che l'ambito di applicazione semplicemente non rientri nella normativa; quali applicazioni rientrano fuori scope e perché è descritto su la pagina sulle applicazioni fuori scope.

Perché ciò raramente è visibile in un unico punto

Gli adattamenti ai modelli avvengono spesso in prossimità del lavoro stesso: un team che sottopone a finetuning un modello esterno sui propri documenti, uno sviluppatore che collega due sistemi tra loro, un reparto che alimenta un chatbot con basi di conoscenza interne. Sono esattamente questi gli adattamenti che non passano attraverso un percorso di acquisto centralizzato e quindi non figurano automaticamente in un elenco IT. Chi vuole sapere se, e dove, ciò avviene all'interno dell'organizzazione deve chiederlo — e ciò funziona soltanto se la domanda non è collegata a una sanzione. Un team che ha adattato un modello senza chiedere autorizzazione non lo segnala se la risposta comporta una sanzione.

Cosa significa questo per le politiche e la vigilanza

Poiché la classificazione degli adattamenti non è fissa ma viene stabilita caso per caso, non è sufficiente determinare una sola volta quale ruolo abbia un modello. Gli adattamenti che avvengono dopo la prima valutazione devono essere sottoposti nuovamente alle stesse domande. Una politica che supporti questo processo deve descrivere in linguaggio comune quando un adattamento deve essere segnalato e a chi; come tale politica resti leggibile invece di diventare un testo che nessuno consulta è descritto su la pagina su una politica IA effettivamente letta. Inoltre, è importante che le decisioni relative agli adattamenti — chi ha dato l'approvazione, sulla base di quale valutazione, con quale livello di rischio come risultato — vengano registrate in un luogo dove possano essere ritrovate. Come si presenti in pratica tale registrazione è descritto su la pagina su un registro delle decisioni di oversight.

La domanda successiva

La classificazione di un modello adattato determina quali obblighi si applicano, ma non dice nulla su cosa il modello faccia in pratica con il lavoro stesso. Per questa domanda — quale parte di un compito viene assunta dall'IA, quale parte resta a un collaboratore, e cosa sposta un adattamento in questo equilibrio — è necessaria una prospettiva diversa da una valutazione del rischio. Lo scan del lavoro di FTE TO AI calcola per ciascun compito quale parte del lavoro può essere assunta dall'IA, indipendentemente dalla domanda su quali regole di governance si applicano al modello.