En la sanidad, la relación entre lo que se aprueba y lo que se utiliza es distinta a la de la mayoría de los sectores. Ya existe un sistema tupido de control: normativa sobre productos sanitarios, marcos de calidad, comités de ética médica, delegados de protección de datos. Ese sistema está construido en torno a dispositivos físicos, medicamentos y protocolos de tratamiento. Las aplicaciones de IA a menudo se escurren entre estas mallas, porque no se han adquirido como un producto sanitario, pero sí se utilizan como tal. Un modelo de lenguaje que lee junto con el profesional el historial de un paciente, una herramienta de transcripción durante una consulta, un algoritmo que apoya la clasificación de urgencias (triaje): ninguna de estas aplicaciones tiene por qué haber pasado por la vía de evaluación existente para, aun así, utilizarse a diario.
A ello se suma que los intereses en juego en la sanidad pesan más que en muchos otros sectores. No se trata solo de la gestión empresarial, sino de la seguridad del paciente, la responsabilidad médico-ética y la confianza de los pacientes en que lo que ocurre con sus datos se desarrolla de forma controlada. Eso hace que la pregunta de "qué está funcionando aquí en realidad" sea más urgente que en otros ámbitos, y a la vez más difícil de responder, porque los profesionales sanitarios trabajan bajo presión de tiempo y una herramienta que ayuda no se comunica rápidamente si comunicarla se percibe como un rodeo.
El departamento de TI de una institución sanitaria dispone de una lista de sistemas aprobados. Esa lista es un punto de partida, no la realidad. Un médico que utiliza un modelo de lenguaje para redactar un borrador de carta de alta, un enfermero que consulta una aplicación sobre interacciones de medicamentos, una secretaría que emplea reconocimiento de voz fuera del sistema oficial de historiales: este tipo de uso surge porque el trabajo se beneficia de ello, no porque se haya solicitado. Nadie ha querido ocultar esto. Simplemente nunca se ha preguntado, y quien sí lo pregunta debe hacerlo sin que se cierna una sanción sobre el que responde. Solo así se obtiene una respuesta honesta, y solo con una respuesta honesta puede una institución saber dónde están realmente los riesgos.
Tras el inventario sigue la clasificación: qué función desempeña una aplicación de IA y qué nivel de riesgo corresponde a esa función. En la sanidad, esa distinción es marcada. Una herramienta que resume notas para el uso propio de un profesional sanitario tiene un peso distinto al de un sistema que interviene en un diagnóstico o en una decisión sobre la capacidad de tratamiento. La clasificación en sí está determinada por una normativa que queda fuera del alcance de esta página y que está en constante desarrollo; la clasificación vigente y las obligaciones correspondientes se detallan en otro lugar. Lo que importa aquí es el mecanismo: cada aplicación recibe un lugar en una clasificación por función e impacto, de modo que quede claro qué aplicaciones requieren atención y cuáles no.
Las instituciones sanitarias no parten de cero. Ya existen comités de evaluación, sistemas de calidad, delegados de protección de datos y vías de auditoría interna. Un enfoque de gobernanza de la IA que quede desligado de todo ello se convierte en una capa adicional que nadie mantiene. Un enfoque que se conecta con la estructura existente pasa a formar parte de lo que ya ocurre: el mismo comité que evalúa un nuevo producto sanitario evalúa también una nueva aplicación de IA; el mismo registro de riesgos incorpora una rúbrica para la IA junto a las rúbricas que ya existen. Esto no requiere un nuevo dispositivo, sino un marco que se ajuste a lo que la institución ya hace.
Un consejo de administración, un órgano de supervisión o una inspección quieren poder ver qué está ocurriendo, no dar por supuesto que está bajo control. La demostrabilidad significa que existe una visión actualizada de qué aplicaciones de IA están en uso, quién las utiliza, qué nivel de riesgo corresponde a cada una y qué acuerdos se han establecido en torno a ellas. Esa visión no es un documento único. Las instituciones sanitarias cambian constantemente de sistemas, y el personal traslada herramientas de un departamento a otro. Un conjunto de gobernanza que mantiene esto actualizado resulta útil en el momento en que se solicita rendición de cuentas, y no solo en el momento en que se elaboró.
La combinación de un control existente estricto y un uso informal de rápido crecimiento no es exclusiva de la sanidad, aunque aquí adquiere una carga más aguda debido al paciente que se encuentra al final de la cadena. Las instituciones que quieran ver cómo se organizan cuestiones comparables en otro contexto pueden observar cómo la gobernanza de la IA en la educación gestiona una tensión similar entre el deber de cuidado y el uso práctico, la manera en que la gobernanza de la IA en los servicios profesionales vela por la confidencialidad y el interés del cliente, o cómo la gobernanza de la IA en la industria manufacturera gestiona sistemas que intervienen directamente en un proceso físico.
En cuanto queda claro qué aplicaciones de IA están en funcionamiento y bajo qué nivel de riesgo se encuadran, queda pendiente otra pregunta: qué significa ese uso para el trabajo en sí. Un inventario de gobernanza muestra qué está en funcionamiento, no cuánto tiempo libera eso ni qué parte de una tarea puede realmente ser asumida por la IA. Esa pregunta queda fuera de la gobernanza y dentro del escáner de trabajo de FTE TO AI, que calcula por tarea qué parte del trabajo puede ser asumida por la IA. Para una institución sanitaria que primero quiere una visión de conjunto de lo que se utiliza, y después quiere saber qué significa ese uso para la asignación de personal, esa segunda pregunta se plantea de forma lógica tras la primera.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.