Muchas iniciativas de gobernanza empiezan con un nuevo proceso: un formulario, un paso de aprobación, un comité que debe evaluar el uso de IA antes de que se ponga en marcha. La suposición es que los empleados seguirán este proceso porque existe. En la práctica, eso ocurre pocas veces. Quien puede realizar una tarea más rápido con una herramienta que él mismo ha encontrado, no pide permiso a un comité cuya agenda desconoce y cuyo plazo de tramitación no puede estimar. Utiliza la herramienta y no dice nada al respecto.
Eso no es falta de voluntad. Es una reacción racional ante un proceso que está junto al trabajo en lugar de formar parte de él. Un segundo proceso exige tiempo, genera incertidumbre sobre el resultado y no ofrece ninguna ventaja visible para quien lo sigue. La probabilidad de que se ignore es entonces mayor que la probabilidad de que se cumpla.
La consecuencia no es que no se utilice IA. La consecuencia es que se utiliza IA fuera del alcance de quien es responsable. La lista de TI con herramientas aprobadas sigue entonces siendo una descripción de lo que en algún momento se solicitó, no de lo que se utiliza. Entre esas dos listas puede existir una diferencia considerable, y nadie que solo mire la lista aprobada puede ver esa diferencia.
Esto afecta directamente a la pregunta de quién es responsable cuando una aplicación de IA comete un error. Un directivo que quiera poder atribuir responsabilidad debe saber qué sistema ha influido en una decisión. Si ese sistema nunca se registró porque se omitió el procedimiento de registro, esa base falta en el momento en que se necesita.
El método que aplicamos no empieza con un proceso de aprobación, sino con un inventario que pregunta en lugar de controlar. La diferencia es pequeña en forma y grande en efecto. Un empleado al que se le pregunta qué utiliza y para qué, sin que esto tenga consecuencias para él mismo, no tiene motivo para ocultar la respuesta. Un empleado que sabe que una respuesta sincera puede dar lugar a una prohibición o una corrección, tiene todos los motivos para ajustar la respuesta.
Este es un punto vulnerable del método y preferimos señalarlo antes que ocultarlo. Un inventario sin rendición de cuentas ofrece una imagen más honesta que una auditoría con consecuencias, pero no garantiza que se comunique cada uso. Quien utiliza una herramienta que sospecha que puede ser problemática, puede seguir guardando silencio, incluso sin amenaza directa. El inventario reduce el umbral para comunicarlo; no elimina ese umbral por completo. Lo que sí ofrece el método es una mayor probabilidad de obtener una imagen completa que un proceso que de antemano ya sugiere sanción.
Un segundo proceso se ignora. Una ampliación de un proceso existente tiene más probabilidades de perdurar. Por eso clasificamos el uso de IA por función y nivel de riesgo dentro de la estructura de riesgos que una organización ya utiliza, en lugar de crear una estructura nueva junto a ella. Lo que se clasifica como riesgo alto acaba en el mismo lugar que otros riesgos altos dentro del registro de riesgos existente. Esto también significa que la pregunta de con qué frecuencia debe volver a clasificarse no requiere un nuevo calendario, sino que se ajusta al ciclo existente de evaluación de riesgos.
Esta conexión no lo resuelve todo. Un registro de IA elaborado una sola vez queda obsoleto en el momento en que alguien pone en marcha una nueva herramienta sin comunicarlo. Por eso la pregunta de cómo mantener actualizado un registro de IA es tan importante como el inventario inicial. Un registro que no se mantiene vuelve a ser, con el tiempo, una descripción del pasado.
La supervisión del uso de IA a menudo se plantea como una cuestión técnica: un sistema que monitoriza, un panel que notifica. Pero una supervisión que funciona empieza con personas que comprenden por qué comunicar tiene sentido y que saben qué ocurre con su respuesta. Esa es una cuestión de comportamiento, no solo de técnica, y está relacionada con lo que significa la supervisión humana en la práctica en el día a día, y con lo que implica en concreto la alfabetización en IA para los empleados. Sin esa comprensión, cualquier proceso, por muy bien diseñado que esté, sigue siendo un formulario que la gente rellena porque debe, no porque le aporte algo.
Este enfoque no ofrece una certeza total de que se encuentren todas las aplicaciones de IA. Reduce el umbral para comunicar y conecta con las estructuras existentes, pero una organización que realiza un inventario por primera vez debe tener en cuenta que una parte del uso seguirá siendo invisible, aunque esa parte suele ser menor tras un inventario cuidadoso que antes de realizarlo.
Un inventario del uso de IA muestra qué está en marcha y quién lo utiliza, pero todavía no dice nada sobre qué parte del trabajo subyacente puede realmente asumir la IA. Esa pregunta va un paso más allá y la responde el escáner de trabajo de FTE TO AI, que calcula por tarea qué parte del trabajo se puede asumir. Quien ya sabe qué herramientas se utilizan en la organización, puede investigar con ese escáner qué significa ese uso para la configuración del trabajo en sí.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.