re-ai-gov Apuntarse a la lista de espera

Kennisbank

Las mismas preguntas para cada aplicación de IA, respondidas de forma consistente

Una lista con nombres de herramientas de IA no es un inventario. Un inventario solo surge cuando registra el mismo conjunto de datos para cada aplicación, de modo que pueda compararlas entre sí, clasificarlas y demostrarlas más adelante. Sin esa estructura fija, lo que tiene es una colección de datos sueltos que ya nadie puede comparar.

Qué registra: los campos esenciales

Por cada aplicación se trata de un número limitado de campos que se repiten siempre.

Nombre y forma. Se trata de una suscripción independiente, una función dentro de software existente, un modelo desarrollado internamente, o una función de IA que vino incluida con un proveedor sin que nadie la haya denominado "IA".

Quién la utiliza. Un equipo, un departamento, un empleado individual. Esto determina no solo el alcance, sino también con quién deberá hablar más adelante si surgen preguntas.

Para qué se utiliza. No el texto de marketing del proveedor, sino la tarea real: redactar textos, resumir datos, escribir código, responder preguntas de clientes, preparar decisiones. Este campo determina el papel que desempeña la aplicación y con ello el nivel de riesgo.

Qué datos se introducen. Datos personales, datos de clientes, información financiera, documentos internos, o ningún dato sensible. Esto determina qué requisitos de gobernanza son relevantes.

Cómo se adquirió. Mediante un proceso formal, mediante una suscripción que alguien contrató por su cuenta, mediante un proveedor que la incluye junto con otro producto. La vía de adquisición le indica de inmediato cuánta supervisión existía ya.

Quién es responsable de ella. No quien la utiliza por casualidad, sino quien puede ser interpelado si algo sale mal o si quiere saber si todavía está en uso.

Desde cuándo y durante cuánto tiempo. Una aplicación que lleva tres años funcionando sin que nadie lo note requiere un enfoque distinto al de un piloto del mes pasado.

Estas no son listas de verificación burocráticas. Son los datos que necesita para poder decir, por cada aplicación: esta entra en un nivel de riesgo más alto, esta no, y aquí está la justificación.

De dónde proceden estos datos

Ninguno de estos campos está disponible por completo en una sola fuente. El inventario se construye a partir de varios canales que se complementan entre sí.

El departamento de TI ofrece un punto de partida, pero no una imagen completa: por qué la lista de TI no es correcta explica que una parte considerable del uso de IA queda fuera de los sistemas que TI gestiona. Aun así, las señales que TI sí tiene son útiles como filtro: qué señales de TI son útiles muestra qué indicios técnicos son suficientemente fiables como para seguir investigando.

Compras y finanzas completan otra parte. Las facturas, suscripciones y licencias muestran qué herramientas se han pagado realmente, incluso si el usuario nunca lo informó. Qué revelan los datos de compras y licencias describe qué campos de esta fuente encajan directamente en el inventario.

La última parte, y la más determinante, proviene de los propios empleados. Quien realiza la tarea sabe qué herramienta se utiliza para ello, incluso si nunca se solicitó ni se aprobó. Esa información solo la obtendrá si preguntar no tiene consecuencias para quien responde: cómo preguntarlo sin que se traduzca en sanciones describe cómo se plantea esa pregunta sin que se sienta como un control.

Por qué la estructura es más importante que la exhaustividad

Un inventario que deba estar completo de una sola vez nunca llega a existir. Las aplicaciones cambian, aparecen herramientas nuevas, otras desaparecen. Lo que permanece es la estructura: los mismos campos, las mismas preguntas, la misma manera de registrar. Esa estructura permite añadir mañana una aplicación que hoy falta, sin tener que empezar de nuevo.

Por eso el orden en que complete los campos importa menos que la consistencia con la que los complete. Una organización con varias sedes, departamentos o filiales se encuentra aquí con una capa adicional de complejidad, porque la misma aplicación se utiliza de forma distinta en una ubicación que en otra: cómo construir un inventario de IA en una organización con varias unidades aborda cómo mantener visibles esas diferencias sin perder la comparabilidad. Quien, dentro de esa estructura, quiera saber específicamente qué campos deben completarse por separado en cada sede, lo encontrará en qué registra por aplicación en una organización con varias unidades.

De registrar a clasificar

Una vez completados los campos por aplicación, surge la posibilidad de clasificar: qué papel desempeña esta aplicación, qué nivel de riesgo le corresponde, y qué medidas de gobernanza se ajustan lógicamente a ello. Ese paso se realiza a partir de lo registrado, no a partir de una estimación posterior.

Registrar lo que hace una aplicación no es lo mismo que saber qué trabajo queda por hacer

Este inventario describe qué aplicaciones de IA existen y quién las utiliza. No describe qué parte del trabajo subyacente es realmente absorbida por esa aplicación. Esa es otra pregunta, con otro instrumento: el escáner de trabajo de FTE TO AI calcula, por tarea, qué parte del trabajo puede ser asumida por la IA, a partir de las tareas que usted registra, no a partir de la herramienta que se utiliza para ello.

El escáner de IA aquí todavía está en construcción. Quien quiera utilizar alguno de estos instrumentos en cuanto estén disponibles, puede inscribirse en la lista de espera.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.