La supervisión humana suele quedar establecida como un rol: alguien que es responsable, un nombre en un registro, una casilla marcada. Ese es el punto de partida, no el mecanismo en sí. La supervisión solo existe cuando hay un momento en el que una persona puede ver el resultado de una aplicación de IA, puede entenderlo y puede corregirlo antes de que ese resultado llegue a algún lugar. Sin ese momento, el nombre bajo la clasificación es una formalidad.
Que la supervisión funcione en la práctica depende de una serie de factores que no se dan juntos por sí solos. Debe haber alguien con la autoridad para detener un resultado, no solo la tarea de revisarlo. Debe haber tiempo para revisar, lo que significa que el proceso no debe estar organizado de tal manera que el resultado de la IA ya se haya procesado antes de que se realice el control. Y debe haber suficiente comprensión de lo que hace la aplicación para poder reconocer una desviación. Un supervisor que no puede evaluar el resultado no ejerce supervisión, aunque el rol esté formalmente asignado.
Esto se relaciona con lo que significa la alfabetización en IA para sus empleados: la supervisión sin comprensión de la aplicación subyacente es supervisión sobre el papel.
Una estructura de gobernanza puede establecer quién es responsable de qué, qué nivel de riesgo tiene una aplicación y qué pasos corresponden a ello. Lo que la estructura no hace es garantizar que esa persona realmente evalúe el resultado en el momento en que importa. Eso es un dato organizativo, no un dato técnico. Una clasificación puede ser correcta y la supervisión puede seguir estando vacía, porque la persona que sobre el papel es responsable no tiene el tiempo, el acceso o el conocimiento para valorar el resultado.
El inventario y la clasificación revelan dónde es mayor este riesgo: en aplicaciones con un nivel de riesgo más alto, o en aplicaciones que han entrado por fuera del proceso habitual de TI. Este último grupo suele ser el más difícil, porque quien quiere organizar la supervisión sobre algo que no figura en la administración primero debe encontrarlo. Esto toca la cuestión de qué hacer con los empleados que usan una herramienta que nadie ha aprobado: la supervisión sobre la IA en la sombra empieza por reconocer que esa aplicación existe, no por sancionar su uso.
Una aplicación que hoy está bajo supervisión puede haber cambiado mañana. Un modelo se actualiza, los datos de entrada varían, o el uso dentro de la organización crece de una tarea sencilla a algo con más peso. Una supervisión organizada según la situación de hace un año ya no se corresponde con lo que ocurre ahora. Esta es una de las razones por las que la clasificación no es un ejercicio único; la frecuencia con la que debe repetirse depende del nivel de riesgo y del grado en que cambia la aplicación, tal como se explica en con qué frecuencia debe volver a clasificar.
Esto también significa que un registro solo tiene valor si se mantiene actualizado. Un inventario que se elaboró en la primera revisión y después ya no se actualiza ofrece una imagen cada vez más imprecisa de dónde se necesita supervisión. La pregunta de cómo una organización mantiene actualizado ese registro es independiente de cómo se elaboró el registro, y merece atención propia: véase cómo mantener actualizado un registro de IA.
Un consejo de administración al que se le pide demostrar que existe supervisión sobre el uso de IA no puede limitarse a una lista de roles. La demostrabilidad requiere un rastro: quién revisó qué resultado, en qué momento, con qué autoridad para corregir. Ese rastro también es relevante en el momento en que algo sale mal. La pregunta de quién es responsable cuando una aplicación de IA comete un error no se responde solo con la clasificación, sino con la supervisión demostrable que se ha aplicado a continuación. Estos dos aspectos se confunden fácilmente, aunque la distinción es relevante; véase quién es responsable cuando una aplicación de IA comete un error.
La supervisión también afecta a lo que se introduce en una aplicación. Un empleado que pega datos de la empresa en una ventana de chat gratuita coloca esos datos fuera de cualquier supervisión que la organización haya establecido, independientemente de cuán bien esté organizada la supervisión sobre las aplicaciones aprobadas. Ese es un área de atención específica dentro de la cuestión más amplia, desarrollada en qué hacer con los datos de la empresa en una ventana de chat gratuita.
Esta página describe cómo funciona la supervisión como mecanismo: quién mira, cuándo, con qué autoridad, y cómo se hace demostrable. Las normas de fondo que determinan cuándo la supervisión es obligatoria, cuán estricta debe ser esa supervisión según la categoría de riesgo, y dentro de qué plazos debe estar organizada, no figuran aquí. Ese contenido normativo cambia y se mantiene actualizado en otro lugar.
Organizar la supervisión sobre una tarea solo tiene sentido si queda claro qué implica exactamente esa tarea y qué parte de ella realiza una aplicación de IA. Esa es una pregunta distinta de qué rol o qué nivel de riesgo tiene una aplicación; se trata de la tarea en sí, desglosada en los pasos que una aplicación de IA puede asumir y los pasos que no son aptos para ello. El escáner de trabajo de FTE TO AI calcula esto por tarea, de modo que se hace visible qué parte del trabajo puede transferirse y qué parte debe permanecer dentro del alcance de la supervisión humana.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.