La pregunta de qué aplicaciones quedan fuera del alcance suena como una petición de una lista. No lo es. Que algo quede dentro o fuera del alcance es una clasificación que depende de lo que hace una aplicación, en qué contexto y para quién. La misma tecnología puede permanecer fuera de foco en una aplicación y recibir plena atención en otra. Por eso no existe una lista fija de aplicaciones excluidas — sí existen una serie de factores que determinan la clasificación.
El primer factor es la función de la aplicación: qué decide o aconseja el sistema, y para quién tiene eso consecuencias. Una herramienta que reescribe texto interno se sitúa de forma distinta a una herramienta que participa en la decisión sobre una solicitud, una candidatura o una reclamación. El segundo factor es el nivel de riesgo asociado a esa función: cuanto mayores son las consecuencias para las personas, más se desplaza una aplicación hacia la parte más pesada del espectro. El tercer factor es el papel de la propia organización: quien únicamente utiliza un sistema se evalúa de forma distinta a quien lo adapta, lo entrena adicionalmente o lo compone a partir de componentes de terceros. Lo que implica exactamente ese reparto de roles y cuándo cambia se describe en las páginas sobre la distinción entre proveedor y usuario de un sistema de IA y sobre el momento en que un rol de usuario se transforma en otra responsabilidad.
Un cuarto factor es de naturaleza técnica, pero jurídicamente relevante: lo que una organización modifica ella misma en un modelo existente a veces cambia la posición de esa organización dentro del conjunto. Un modelo que se adquiere sin modificaciones se sitúa de forma distinta en el panorama que un modelo que se ajusta (finetuning) con datos propios o se incorpora a un proceso propio. Ese límite — cuándo una adaptación conlleva un cambio de rol — se trata en la página sobre lo que cambia cuando un modelo se adapta uno mismo, y de qué depende eso.
Como la clasificación depende de estos factores, el alcance no es una característica fija de una herramienta, sino un resultado que puede modificarse. Un chatbot que empezó como ayuda interna de redacción puede, en el momento en que también responde a preguntas de clientes que conducen a una decisión, situarse en otra parte del espectro. Un modelo que se adquirió como producto listo para usar puede, tras adaptarlo con datos propios, conllevar otro rol para la organización. Una aplicación que hoy se considera de bajo impacto puede pesar más mañana porque el contexto en el que se aplica ha cambiado — otro equipo, otra decisión, otro grupo de personas afectadas por el resultado.
Esto es precisamente por lo que una clasificación única no basta. Una clasificación registrada en el momento de la implementación no dice nada sobre lo que hace una herramienta un año después. Qué debe entrar hoy en el alcance y qué puede planificarse para más adelante es, por tanto, en sí misma una cuestión que depende de la situación actual — desarrollada en la página sobre el orden entre lo que exige atención ahora y lo que puede seguir después.
La clasificación dentro o fuera del alcance se complica por un problema práctico: la lista oficial de herramientas adquiridas o aprobadas no es la misma lista que las herramientas que realmente se utilizan. Los equipos empiezan a usar funcionalidades de IA sin pasarlas por un proceso de solicitud — no por mala voluntad, sino porque son fácilmente accesibles y resuelven un problema. Esa IA en la sombra es precisamente la parte que hace imposible una clasificación dentro o fuera del alcance, mientras nadie sepa que la aplicación existe.
Quien quiera completar ese panorama debe preguntarlo — y hacerlo sin que la pregunta se perciba como un reproche encubierto. En el momento en que un empleado sospecha que una respuesta honesta conduce a una sanción, la respuesta no llega y la herramienta permanece bajo el radar. Un inventario construido sobre la base de la rendición de cuentas ofrece, por definición, una imagen incompleta — y una imagen incompleta hace que toda clasificación dentro del alcance sea provisional.
Como el alcance puede desplazarse, registrar la clasificación es al menos tan importante como la clasificación misma. Quién decidió que una aplicación quedaba fuera del alcance, con base en qué información, y en qué momento — ese tipo de preguntas queda sin respuesta en cuanto falta el registro. Cómo una organización estructura y hace trazable ese tipo de decisión se explica en la página sobre una lista de decisiones que hace rastreables las decisiones de supervisión, y cómo esa clasificación se refleja de forma reconocible en el documento que los empleados realmente consultan, en la página sobre una política de IA que se ajusta a lo que la gente realmente hace.
La cuestión de la clasificación — qué queda dentro del alcance y qué no — trata sobre el riesgo y la responsabilidad, no sobre lo que una aplicación significa para el trabajo en sí. Esa segunda cuestión, qué parte exacta de una tarea puede dejarse a la IA, es un cálculo aparte. El escáner de trabajo de FTE TO AI calcula, por tarea, qué parte del trabajo se puede transferir, independientemente de cómo esa aplicación se ubique en la clasificación de gobernanza.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.