Una clasificación de una aplicación de IA describe una situación en un momento determinado: qué modelo, qué aplicación, qué usuarios, qué riesgo. Esa situación cambia. Un proveedor ajusta un modelo, un equipo utiliza una herramienta para algo distinto de aquello para lo que se adquirió, un proveedor añade una función sin que nadie solicite permiso para ello. La clasificación que realizó el año pasado no describe, por tanto, automáticamente la situación de hoy.
La pregunta de "con qué frecuencia" no tiene una respuesta fija que se aplique a todas las organizaciones. Depende de cuántas aplicaciones de IA existan, de la rapidez con que cambien, de la diversidad de los equipos que trabajan con ellas, y de la rigurosidad de la supervisión del sector en el que opera. Un momento fijo anual es un punto de partida, no una garantía de que no se le escape nada entre medias.
Una recalibración anual o semestral funciona bien para aplicaciones que ya conoce y que han entrado a través de un procedimiento formal. Para aplicaciones que nadie ha notificado, un intervalo fijo no funciona, simplemente porque no hay nada que reevaluar en una fecha fija. Qué hacer con empleados que utilizan una herramienta que nadie ha aprobado describe por qué esa pregunta no se resuelve con una cita periódica en la agenda, sino con otra forma de plantear preguntas a la organización.
Además, el riesgo cambia no solo por lo que hace una aplicación, sino también por lo que se introduce en ella. Una ventana de chat que hoy se utiliza para resumir texto público puede utilizarse mañana para resumir un contrato. Qué hacer con los datos empresariales en una ventana de chat gratuita muestra que el nivel de riesgo de una misma herramienta puede variar sin que la herramienta en sí cambie.
Además de un momento fijo, hay eventos que requieren una recalibración intermedia. Un cambio en la función de una aplicación, una ampliación del grupo de usuarios, un incidente o un cuasi-incidente, un cambio en las condiciones del proveedor, o una señal de un empleado de que se está utilizando algo de forma distinta a la prevista. Estas señales no tienen todas el mismo peso, y no todas las organizaciones las detectarán con la misma rapidez.
La pregunta de quién responde a esas señales, y quién tiene la responsabilidad sobre la recalibración en sí, es una cuestión aparte. Quién es responsable cuando una aplicación de IA comete un error describe que la responsabilidad a menudo solo se determina en el momento en que algo sale mal, cuando en realidad esa pregunta ya debería haberse respondido en la primera clasificación.
Un ritmo de recalibración que se añade junto a los procesos de riesgo existentes, sin integrarse en ellos, suele perder prioridad en el plazo de un año. Es un paso adicional que nadie pide hasta que algo sale mal, y precisamente por eso queda pendiente. Por qué se ignora un segundo proceso junto al existente explica por qué la recalibración funciona con mayor eficacia cuando está integrada en la gestión de riesgos existente, en lugar de como un procedimiento independiente que compite por la atención con el resto de la organización.
Un método de clasificación puede ofrecer una estructura para evaluar de forma coherente las aplicaciones de IA según su función y nivel de riesgo, y esa estructura puede aplicarse de manera repetible. Lo que el método no puede hacer es garantizar que usted lo vea todo. Una clasificación es tan buena como la información en la que se basa, y esa información procede en parte de personas que pueden tener un motivo para no comunicar algo. Un empleado que utiliza una herramienta no aprobada no lo comunica por iniciativa propia si espera que se le sancione.
El método tampoco puede predecir cuándo un proveedor modificará un modelo, o cuándo una aplicación que hoy es de bajo riesgo se utilizará mañana de otra manera. La recalibración sigue siendo, por tanto, una cuestión de repetición y de organizar la apertura, no de un sistema que se configura una vez y luego se mantiene actualizado por sí solo. Cómo mantener ese registro actualizado sin que quede desactualizado tras unos meses se describe en cómo mantener actualizado un registro de IA, donde el foco está en la distinción entre un inventario puntual y un proceso continuo.
A ello se suma la pregunta de qué significa en la práctica la supervisión de la IA entre los momentos de recalibración: quién supervisa, con qué frecuencia, y a partir de qué señales. Qué es la supervisión humana en la práctica establece esa distinción entre la supervisión como un mero trámite formal y la supervisión como algo que acompaña de forma continua el uso.
Una clasificación le indica qué aplicaciones existen, qué función tienen y qué nivel de riesgo les corresponde. Esa clasificación no le indica cuánto del trabajo lo realiza realmente la IA, ni cuánto margen queda todavía por tarea. Quien quiera responder a esa pregunta no puede limitarse a un inventario de riesgos; eso requiere una mirada al propio trabajo, tarea por tarea. El escáner de trabajo de FTE TO AI calcula, por tarea, qué parte de ella puede asumir la IA, como complemento a la imagen que ofrece una clasificación.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.