Un equipo quería probar algo. Un chatbot para consultas de clientes, un script que resume informes, una conexión con un modelo de lenguaje para clasificar correos electrónicos. No hacía falta ninguna gran decisión: alguien tenía una cuenta, una clave de API o un período de prueba gratuito, y en una tarde ya había algo funcionando. El piloto funcionaba, o funcionaba lo suficiente, y nadie tenía ya una razón para apagarlo.
Esto no es una excepción. Es la manera habitual en que la IA entra en una organización. No mediante una licitación o un presupuesto aprobado, sino mediante un montaje de prueba que sobrevive a su propio estatus de prueba. La fase de pruebas nunca se cerró formalmente, porque tampoco hubo nunca un inicio formal que cerrar.
Un piloto que funciona, se utiliza. Y lo que se utiliza, se convierte en dependencia. Es posible que el equipo que construyó el resumidor de informes ya se haya marchado, pero el resumen sigue llegando cada semana. Nadie tiene el encargo de apagarlo, y nadie quiere correr el riesgo de que algo deje de funcionar sin saber qué lo sustituirá.
Además, un montaje de prueba normalmente no tiene un responsable en el sentido que espera una estructura de gobernanza. No se ha elaborado ninguna clasificación de riesgo, no se ha realizado ningún análisis de datos, no se ha tomado ninguna decisión sobre quién es responsable si algo sale mal. El piloto existe en un espacio intermedio: demasiado utilizado para ignorarlo, demasiado informal para gestionarlo. Ese es exactamente el patrón que lleva a empleados que utilizan una herramienta que nadie ha aprobado — solo que aquí a nivel de equipo en lugar de a nivel individual.
La reacción habitual al descubrir un montaje de prueba no autorizado suele ser: quién permitió esto, y por qué no lo sabíamos. Esa pregunta es comprensible, pero resulta contraproducente. Quien ya percibe en la primera conversación que se acerca una búsqueda de culpables, no volverá a contar nada la próxima vez. Y el siguiente montaje de prueba —que sin duda llegará— desaparecerá entonces igualmente de la vista, tal como este.
Un inventario construido sobre la confianza produce más resultados que una auditoría construida sobre el control. No porque las personas no quieran ocultar nada, sino porque la información que usted busca está en el usuario, y ese usuario solo habla si no se le va a exigir responsabilidad por lo que encuentre.
En cuanto un montaje de prueba entra en el panorama, la primera pregunta no es si puede seguir existiendo, sino qué hace exactamente. Qué datos entran, quién utiliza el resultado, y qué ocurre si el resultado es incorrecto. Son las mismas preguntas que se aplican a cualquier otra aplicación de IA, y la respuesta determina si algo es una herramienta informal o un riesgo que merece atención.
Después viene la clasificación: ¿encaja la aplicación en una categoría de riesgo que ya existe, o requiere una nueva valoración? A continuación: qué debe registrarse para poder demostrar que la organización sabe qué está funcionando y por qué. Eso es precisamente lo que aborda lo que debe registrar por cada aplicación — no como burocracia adicional, sino como la documentación mínima necesaria para distinguir un piloto de un riesgo.
Un montaje de prueba que supera esta comprobación puede seguir existiendo, ahora con un responsable y una clasificación. Un montaje de prueba que no la supera debe desmontarse — pero eso es un proceso controlado, no un despido de la persona que lo puso en marcha en su momento.
El montaje de prueba que nunca se apagó es una forma de un patrón más amplio. Piense en la extensión de navegador con acceso a su correo que alguien instaló en su día para ahorrar tiempo, o en los datos empresariales que terminan en una ventana de chat gratuita porque era más rápido que la herramienta oficial. Todas estas situaciones comparten una característica: surgieron de una necesidad práctica, no de una decisión de política, y siguen existiendo mientras nadie pregunte por ellas.
La lista de TI con software aprobado no es, por tanto, el punto de partida de un inventario — es el punto de partida de una búsqueda de lo que queda fuera de esa lista. Quien quiera saber cómo es esa búsqueda, encontrará un enfoque en cómo construye un inventario de IA.
Un montaje de prueba que sale a la luz suele plantear una pregunta de seguimiento que va más allá de la gobernanza: ¿por qué funcionaba esto tan bien que nadie se atrevió a detenerlo? Esa es una pregunta sobre el trabajo en sí, no solo sobre el riesgo. El escáner de trabajo de FTE TO AI calcula, por tarea, qué parte del trabajo puede ser asumida por la IA, y con ello hace visible lo que un montaje de prueba ya mostraba implícitamente: que una parte del trabajo puede organizarse de otra manera. Mientras que el Responsible AI Scan mapea qué está funcionando y bajo qué riesgo, el escáner de trabajo muestra de dónde viene ese uso y qué significa estructuralmente para la distribución de tareas.
El Responsible AI Scan, con el inventario, la clasificación y el conjunto de gobernanza descritos anteriormente, está en desarrollo. Quien ya se enfrente a esto ahora mismo y desee ser informado en cuanto la herramienta esté disponible, puede inscribirse en la lista de espera.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.