Dans les soins de santé, le rapport entre ce qui est approuvé et ce qui est utilisé diffère de celui de la plupart des secteurs. Il existe déjà un système dense de contrôle : réglementation sur les dispositifs médicaux, cadres de qualité, comités d'éthique médicale, délégués à la protection des données. Ce système est construit autour d'appareils physiques, de médicaments et de protocoles de traitement. Les applications d'IA passent souvent entre les mailles de ce filet, parce qu'elles n'ont pas été achetées comme un outil mais sont utilisées comme un outil. Un modèle de langage qui lit un dossier patient en parallèle, un outil de transcription pendant une consultation, un algorithme qui appuie le triage : aucune de ces applications n'a besoin d'être passée par la filière de contrôle existante pour être utilisée quotidiennement.
À cela s'ajoute que les enjeux dans les soins de santé pèsent plus lourd que dans beaucoup d'autres secteurs. Il ne s'agit pas seulement de gestion d'entreprise, mais de sécurité des patients, de responsabilité médico-éthique et de la confiance des patients dans le fait que ce qui se passe avec leurs données se déroule de manière contrôlée. Cela rend la question « qu'est-ce qui tourne réellement ici » plus pressante qu'ailleurs, et en même temps plus difficile à répondre, parce que les professionnels de santé travaillent sous pression de temps et qu'un outil qui aide n'est pas rapidement signalé si le signaler ressemble à un détour.
Le service informatique d'un établissement de soins dispose d'une liste de systèmes approuvés. Cette liste est un point de départ, pas la réalité. Un médecin qui utilise un modèle de langage pour rédiger un brouillon de lettre de sortie, une infirmière qui consulte une application pour les interactions médicamenteuses, un secrétariat qui déploie la reconnaissance vocale hors du système de dossiers officiel : ce type d'usage naît parce qu'il fait avancer le travail, pas parce qu'il a été demandé. Personne n'a voulu le dissimuler. Cela n'a simplement jamais été demandé, et celui qui le demande doit pouvoir le faire sans qu'une sanction ne soit à craindre. Ce n'est qu'alors qu'une réponse honnête apparaît, et ce n'est qu'avec une réponse honnête qu'un établissement peut savoir où se situent réellement les risques.
Après l'inventaire vient la classification : quel rôle joue une application d'IA, et quel niveau de risque lui correspond. Dans les soins de santé, cette distinction est nette. Un outil qui résume des notes pour l'usage propre d'un soignant a un poids différent d'un système qui intervient dans un diagnostic ou dans une décision relative à la capacité de traitement. La classification elle-même est déterminée par une réglementation qui dépasse le cadre de cette page et qui évolue constamment ; la classification actuelle et les obligations qui y sont liées figurent ailleurs. Ce qui compte ici, c'est le mécanisme : chaque application obtient une place dans une classification par fonction et par impact, afin qu'il soit clair quelles applications requièrent de l'attention et lesquelles n'en requièrent pas.
Les établissements de soins ne partent pas de zéro. Il existe déjà des comités d'évaluation, des systèmes de qualité, des délégués à la protection des données et des filières d'audit interne. Une approche de gouvernance de l'IA qui en serait détachée devient une couche supplémentaire que personne n'entretient. Une approche qui s'aligne sur la structure existante devient partie intégrante de ce qui se passe déjà : le même comité qui évalue un nouvel outil évalue aussi une nouvelle application d'IA ; le même registre des risques reçoit une rubrique pour l'IA à côté des rubriques déjà présentes. Cela ne demande pas un nouvel appareil, mais un cadre qui s'adapte à ce que l'établissement fait déjà.
Un conseil d'administration, un organe de surveillance ou une inspection veut pouvoir voir ce qui se passe, pas supposer que c'est sous contrôle. La démonstrabilité signifie qu'il existe un aperçu actuel des applications d'IA en usage, de qui les utilise, du niveau de risque correspondant et des accords conclus à ce sujet. Cet aperçu n'est pas un document ponctuel. Les établissements de soins changent constamment de systèmes, et le personnel emporte des outils d'un service à l'autre. Un ensemble de gouvernance qui suit cela reste utilisable au moment où des comptes sont demandés, et pas seulement au moment où il a été établi.
La combinaison d'un contrôle existant strict et d'un usage informel en croissance rapide n'est pas propre aux soins de santé, même si elle y prend une charge plus aiguë en raison du patient qui se trouve au bout de la chaîne. Les établissements qui souhaitent voir comment des questions comparables sont organisées dans un autre contexte peuvent regarder comment la gouvernance de l'IA dans l'enseignement gère une tension comparable entre devoir de vigilance et usage pratique, la manière dont la gouvernance de l'IA dans les services aux entreprises protège la confidentialité et l'intérêt du client, ou comment la gouvernance de l'IA dans l'industrie manufacturière gère des systèmes qui interviennent directement sur un processus physique.
Dès qu'il est clair quelles applications d'IA fonctionnent et sous quel niveau de risque elles se situent, une autre question demeure : ce que cet usage signifie pour le travail lui-même. Un inventaire de gouvernance montre ce qui tourne, pas combien de temps cela libère ni quelle part d'une tâche peut réellement être reprise. Cette question se situe en dehors de la gouvernance et relève du scan de travail de FTE TO AI, qui calcule par tâche quelle part du travail peut être reprise par l'IA. Pour un établissement de soins qui souhaite d'abord avoir une vue d'ensemble de ce qui est utilisé, puis savoir ce que cet usage signifie pour l'affectation du personnel, cette seconde question découle logiquement de la première.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.