Acquistare un sistema di IA e utilizzarlo come viene fornito è una situazione diversa dall'adattare un modello ai propri dati o al proprio scopo. Tale adattamento può cambiare la collocazione della sua organizzazione — e con essa le domande a cui deve poter rispondere. Se ciò avviene, e quanto pesa, dipende da cosa esattamente viene adattato e per cosa il sistema viene utilizzato.
La collocazione non dipende dalla domanda se lei abbia scritto il codice sorgente. Dipende da ciò che effettivamente accade a un modello dopo che arriva presso di lei. Alcuni fattori che entrano in gioco:
Questi fattori agiscono insieme. Non esiste una soglia fissa valida in tutti i casi; la normativa vigente con i criteri precisi si trova altrove, e quel testo può cambiare. Ciò che resta valido in questa pagina è il meccanismo: adattare può cambiare il ruolo, e il ruolo determina l'obbligo.
Il ruolo che la sua organizzazione assume in relazione a un sistema di IA non è fisso. Chi utilizza un modello solo come fornito ha generalmente una posizione diversa da chi modifica il modello e successivamente lo immette sul mercato o lo impiega internamente su larga scala. La domanda su quando avviene tale passaggio, e cosa cambia in quel momento in ciò che deve poter dimostrare, viene trattata in quando cambia il suo ruolo e da cosa dipende quel limite. Per le organizzazioni che sono incerte se siano fornitore o utente — una domanda che si presenta più spesso di quanto si pensi non appena si effettua un adattamento interno — è disponibile una spiegazione separata in la distinzione tra fornitore e utente di un sistema di IA.
La ragione per cui ciò è rilevante non è formale. Un cambiamento di ruolo modifica ciò che deve poter dimostrare: quale documentazione conserva, chi all'interno dell'organizzazione è responsabile della supervisione, e quali passaggi sono stati compiuti prima che il sistema adattato entrasse in uso. Un modello che lei stesso ha adattato è un modello per cui le può essere richiesto di rendere conto di come tale adattamento si sia realizzato.
L'adattamento può anche influenzare il livello di rischio di un'applicazione. Un modello originariamente destinato a un'applicazione a basso rischio può, tramite l'adattamento, finire in una categoria più pesante — ad esempio quando, dopo l'adattamento, viene impiegato per decisioni riguardanti persone. Cosa significhi concretamente un livello di rischio elevato per gli obblighi della sua organizzazione è indicato in cosa significa un livello di rischio elevato per i requisiti della sua organizzazione. Anche qui vale: la collocazione deriva dall'uso, non dall'intenzione con cui il modello è stato costruito in origine.
Questo tocca direttamente il nucleo della IA ombra. Un adattamento che non passa attraverso l'IT — un team che effettua autonomamente il fine-tuning di un modello su un proprio set di dati, o un reparto che collega un modello esterno a sistemi interni senza che ciò sia stato segnalato — cambia la collocazione della sua organizzazione senza che il consiglio di amministrazione ne sia a conoscenza. L'elenco dell'IT non mostra tale adattamento. Chi vuole sapere se ciò accade deve chiederlo ai team che ci lavorano quotidianamente, e quel dialogo produce risultati solo se viene condotto senza conseguenze punitive.
Quando un adattamento modifica il ruolo o il livello di rischio di un'applicazione, cambiano diverse cose contemporaneamente: la documentazione che deve essere conservata, la domanda su chi all'interno dell'organizzazione è responsabile di quell'applicazione, e il momento in cui qualcosa può ancora essere pianificato rispetto a ciò che richiede già attenzione. Questa distinzione — tra ciò che è già urgente ora e ciò che può essere pianificato — è legata a fattori illustrati in cosa richiede già attenzione ora e cosa può ancora essere pianificato. Un approfondimento più ampio della questione della collocazione stessa, inclusi i casi limite che nella pratica si presentano più frequentemente, si trova in la spiegazione completa di cosa cambia quando si adatta un modello autonomamente.
Un modello adattato è in pratica spesso anche un modello che assume parte del lavoro precedentemente svolto interamente da persone. Se sia così, e quanta parte del lavoro sia coinvolta, è una domanda distinta da quella della collocazione ma che spesso la segue: non appena è chiaro che un modello è stato adattato e per cosa viene impiegato, diventa visibile anche quale parte di un compito esso effettivamente svolge. La scansione del lavoro di FTE TO AI calcola questo per ogni compito e mostra quale parte del lavoro può essere assunta dall'IA, indipendentemente dalla domanda su come si sia formato il modello sottostante.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.