No toda aplicación de IA en una organización requiere la misma velocidad. Algunos asuntos requieren atención inmediata, otros pueden incorporarse en un ciclo de planificación normal. El problema es que esa clasificación rara vez se hace explícita. Sin clasificación, todo recibe la misma urgencia, o —más a menudo— ninguna urgencia.
La pregunta de si algo debe hacerse ahora o puede esperar no es cuestión de preferencia. Depende de una serie de factores que, en conjunto, determinan cuánto peso tiene una aplicación.
El nivel de riesgo de la aplicación es el primer factor. Un sistema que toma decisiones sobre personas —contratación, concesión de crédito, acceso a servicios— pesa de forma distinta a una herramienta que resume texto para uso interno. Qué significa exactamente un nivel de riesgo alto para las obligaciones de una organización, y por qué eso no es igual para cada aplicación, se describe en qué significa un nivel de riesgo alto para su organización.
El rol de la organización es el segundo factor. Una organización que desarrolla o adapta ella misma un sistema de IA asume responsabilidades distintas a las de una organización que adquiere y utiliza un sistema ya terminado. Además, ese rol puede cambiar sin que exista una decisión consciente detrás: quien afina, adapta o utiliza un modelo de forma distinta a la prevista puede así pasar de usuario a proveedor. Dónde se encuentra ese límite se explica en qué cambia si usted mismo adapta un modelo y en es usted proveedor o usuario, de qué depende eso.
El tercer factor es si la aplicación entra dentro del ámbito de aplicación. No todo sistema que se denomina IA está sujeto a las mismas obligaciones; algunas aplicaciones están excluidas o se rigen por un régimen más ligero. Qué aplicaciones quedan fuera del ámbito de aplicación y por qué se describe en qué aplicaciones quedan fuera del ámbito de aplicación.
Estos tres factores —nivel de riesgo, rol, ámbito de aplicación— determinan juntos dónde se ubica una aplicación en la línea de tiempo. Una aplicación de alto riesgo en la que la organización actúa como proveedor requiere una velocidad distinta a una aplicación de bajo riesgo que próximamente podría quedar fuera del ámbito de aplicación.
La clasificación no es permanente. Una aplicación que hoy se considera manejable puede dejar de serlo mañana —no porque cambien las normas, sino porque la propia aplicación cambia. Un modelo que se adapta, un sistema que recibe una nueva tarea, una herramienta que pasa de piloto interno a producción: cada uno de estos pasos puede hacer que el rol o el nivel de riesgo se desplace.
Los cambios organizativos también desempeñan un papel. Una fusión, un nuevo proveedor, una ampliación del uso a otro departamento: todos estos acontecimientos pueden trasladar una aplicación que antes se consideraba «puede planificarse» a la categoría de «debe hacerse ahora». Cuándo cambia un rol y dónde se encuentra exactamente ese punto de inflexión se desarrolla en cuándo cambia su rol, de qué depende eso.
Esto significa que una clasificación única no basta. Lo que hoy figura como un punto planificado en la agenda puede adquirir un peso distinto debido a un cambio en otra parte de la organización. Una revaluación fija y periódica es, por tanto, parte de toda clasificación que deba mantenerse vigente —no como un paso adicional, sino como condición para mantener la clasificación actualizada.
Una clasificación clara evita dos errores opuestos. El primero es que todo se trate como urgente, lo que difumina las prioridades y dispersa la atención sobre aplicaciones que apenas conllevan riesgo. El segundo es que nada se considere urgente, lo que hace que aplicaciones con riesgo real permanezcan años bajo el radar —a menudo porque nadie las ha clasificado nunca.
La clasificación en sí no es un documento único, sino una estructura que evoluciona junto con la organización. Ofrece una visión de conjunto de lo que requiere atención a corto plazo, lo que puede incorporarse en un proceso habitual y —de forma crucial— lo que debe reevaluarse en cuanto la situación cambie. Precisamente esa distinción, y la pregunta de qué depende de ella, se desarrolla más a fondo en qué debe hacerse ahora y qué puede planificarse, de qué depende eso.
Esta clasificación presupone que se sabe qué aplicaciones existen. En la práctica, esto no siempre es así. Además de los sistemas aprobados a través de TI o compras, en prácticamente toda organización operan herramientas que nadie ha solicitado ni registrado: un asistente de hojas de cálculo aquí, un generador de texto allá, utilizados por personas que querían resolver un problema y no seguir un procedimiento. Esa IA en la sombra no aparece en la lista de TI, y quien pregunta al respecto sin que haya algo en juego para el usuario obtiene antes una respuesta sincera que quien amenaza de inmediato con una sanción. Sin ese inventario, toda clasificación por urgencia es una clasificación de una parte de la realidad, no del conjunto.
Esta página trata sobre la clasificación: qué pesa mucho, qué pesa poco, qué requiere atención ahora y qué puede esperar. Otra pregunta, complementaria, es qué aporta realmente una aplicación de IA dentro de una tarea. El escaneo de trabajo de FTE TO AI calcula, por tarea, qué parte del trabajo puede ser asumida por la IA, y ofrece así una imagen concreta junto a la clasificación de gobernanza: no solo si una aplicación conlleva riesgo, sino también qué aporta al trabajo en sí.
El Responsible AI Scan está en desarrollo. Quien desee utilizar el inventario, la clasificación y el conjunto de gobernanza en cuanto estén disponibles puede inscribirse en la lista de espera.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.