Nella sanità, il rapporto tra ciò che viene approvato e ciò che viene effettivamente utilizzato è diverso rispetto alla maggior parte dei settori. Esiste già un sistema fitto di controlli: normativa sui dispositivi medici, quadri di qualità, comitati di valutazione medico-etica, responsabili della protezione dei dati. Questo sistema è costruito attorno a dispositivi fisici, farmaci e protocolli di trattamento. Le applicazioni di IA spesso si insinuano tra le maglie di questo sistema, perché non sono state acquistate come strumento ma vengono usate come strumento. Un modello linguistico che legge insieme al medico una cartella clinica, uno strumento di trascrizione durante una visita, un algoritmo che supporta il triage: nessuna di queste applicazioni deve necessariamente aver seguito il percorso di valutazione esistente per essere comunque utilizzata quotidianamente.
A ciò si aggiunge il fatto che, nella sanità, gli interessi in gioco pesano più che in molti altri settori. Non si tratta solo di gestione aziendale, ma di sicurezza del paziente, responsabilità medico-etica e fiducia dei pazienti che ciò che accade ai loro dati avvenga in modo controllato. Questo rende la domanda "cosa gira davvero qui" più urgente che altrove, e al contempo più difficile da rispondere, perché i professionisti sanitari lavorano sotto pressione di tempo e uno strumento che aiuta non viene segnalato rapidamente se segnalarlo sembra una deviazione dal lavoro.
Il reparto IT di un'istituzione sanitaria dispone di un elenco di sistemi approvati. Quell'elenco è un punto di partenza, non la realtà. Un medico che utilizza un modello linguistico per redigere in bozza una lettera di dimissione, un infermiere che consulta un'app per le interazioni farmacologiche, una segreteria che impiega il riconoscimento vocale fuori dal sistema di cartelle cliniche ufficiale: questo tipo di utilizzo nasce perché rende il lavoro più efficiente, non perché sia stato richiesto formalmente. Nessuno ha voluto nascondere questo. Semplicemente non è mai stato chiesto, e chi lo chiede deve poterlo fare senza che si prospetti una sanzione. Solo così si ottiene una risposta onesta, e solo con una risposta onesta un'istituzione può sapere dove si trovano realmente i rischi.
Dopo l'inventario segue la classificazione: quale ruolo svolge un'applicazione di IA e quale livello di rischio le corrisponde. Nella sanità questa distinzione è netta. Uno strumento che riassume appunti per uso personale di un operatore sanitario ha un peso diverso rispetto a un sistema che contribuisce a una diagnosi o a una decisione sulla capacità di trattamento. La classificazione stessa è determinata da una normativa che va oltre questa pagina e che è in continua evoluzione; la classificazione attuale e i relativi obblighi sono trattati altrove. Ciò che conta qui è il meccanismo: ogni applicazione trova un posto in una classificazione basata su funzione e impatto, in modo che sia chiaro quali applicazioni richiedono attenzione e quali no.
Le istituzioni sanitarie non partono da zero. Esistono già comitati di valutazione, sistemi di qualità, responsabili della protezione dei dati e percorsi di audit interni. Un approccio di governance per l'IA che sia scollegato da tutto ciò diventa uno strato aggiuntivo che nessuno mantiene. Un approccio che si collega alla struttura esistente diventa parte di ciò che già accade: lo stesso comitato che valuta un nuovo dispositivo valuta anche una nuova applicazione di IA; lo stesso registro dei rischi riceve una voce per l'IA accanto alle voci già presenti. Questo non richiede un nuovo dispositivo, ma un quadro che si adatti a ciò che l'istituzione già fa.
Un consiglio di amministrazione, un organo di controllo o un'ispezione vuole poter vedere cosa succede, non presumere che sia sotto controllo. Dimostrabilità significa che esiste una panoramica aggiornata di quali applicazioni di IA sono in uso, chi le utilizza, quale livello di rischio comportano e quali accordi sono stati stabiliti al riguardo. Questa panoramica non è un documento unico. Le istituzioni sanitarie cambiano continuamente sistema, e il personale porta gli strumenti da un reparto all'altro. Un insieme di governance che tiene traccia di questo è utilizzabile nel momento in cui viene richiesta la rendicontazione, non solo nel momento in cui è stato redatto.
La combinazione tra una rigorosa valutazione esistente e un uso informale in rapida crescita non è unica per la sanità, anche se qui assume una portata più critica a causa del paziente che si trova alla fine della catena. Le istituzioni che vogliono vedere come questioni simili vengono affrontate in un altro contesto possono osservare come la governance dell'IA nell'istruzione gestisce una tensione analoga tra dovere di cura e uso pratico, il modo in cui la governance dell'IA nei servizi professionali tutela la riservatezza e l'interesse del cliente, oppure come la governance dell'IA nell'industria manifatturiera gestisce sistemi che intervengono direttamente su un processo fisico.
Una volta chiarito quali applicazioni di IA sono in uso e sotto quale livello di rischio rientrano, resta aperta un'altra domanda: cosa significa quell'utilizzo per il lavoro stesso. Un inventario di governance mostra cosa gira, non quanto tempo libera o quale parte di un compito può effettivamente essere assunta. Questa domanda si trova al di fuori della governance e all'interno della scansione del lavoro di FTE TO AI, che calcola per ogni compito quale parte del lavoro può essere assunta dall'IA. Per un'istituzione sanitaria che vuole prima avere una visione d'insieme di ciò che viene utilizzato, e poi vuole sapere cosa significa quell'utilizzo per l'impiego del personale, questa seconda domanda segue logicamente la prima.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.