El comercio minorista es un sector en el que la IA se instala en dos niveles a la vez. Por un lado están los sistemas grandes y visibles: previsiones de inventario, optimización de precios, motores de recomendación en la tienda online, chatbots en el servicio de atención al cliente. Estos suelen ser conocidos por TI y compras, ya que se han adquirido e implementado en algún momento de forma oficial. Por otro lado hay un panorama mucho más difuso: empleados individuales en la tienda, en marketing o en compras que utilizan una herramienta de IA para escribir descripciones de productos, responder preguntas de clientes, generar imágenes de campañas o extraer precios de la competencia. Esta segunda capa suele ser mayor que la primera, sencillamente porque el umbral para probar una herramienta gratuita o económica es bajo y el efecto se percibe de inmediato: un texto publicitario más rápido, una respuesta más rápida a una queja.
A esto se añade que el comercio minorista suele trabajar con muchos empleados temporales y flexibles, repartidos en varias tiendas o canales. Esto dificulta tener una visión central única de quién utiliza qué herramientas y por qué. Una oficina central puede tener una política clara para los sistemas que ella misma ha adquirido, mientras que a nivel de tienda o dentro de un equipo de tienda online surgen aplicaciones de IA que no están registradas en ninguna parte. La proporción entre lo que está aprobado centralmente y lo que ha surgido de forma local suele estar desequilibrada en este sector: el número de sistemas adquiridos oficialmente es limitado, mientras que el número de aplicaciones individuales que los empleados han empezado a usar por su cuenta suele ser mucho mayor.
El término IA en la sombra suena técnico, pero en el comercio minorista es algo muy práctico: es la herramienta que un empleado de marketing utiliza para generar publicaciones en redes sociales, el chatbot que un equipo de atención al cliente ha configurado por su cuenta, o el modelo de IA que se emplea para analizar reseñas sin que TI o el departamento jurídico lo hayan revisado nunca. Esto rara vez ocurre por descuido. Sucede porque las herramientas son accesibles, porque la presión por la rapidez es alta, y porque nadie ha dicho explícitamente que no esté permitido.
La lista de TI de software aprobado ofrece, por tanto, una imagen incompleta. Quien quiera obtener una imagen completa debe preguntárselo directamente a las personas. Esto solo funciona si esa pregunta se plantea sin consecuencias. En el momento en que los empleados sospechan que informar sobre el uso de IA conducirá a una corrección o a una prohibición, la información vuelve a desaparecer de la vista y el uso se traslada a dispositivos privados o cuentas personales. Un inventario que empieza por excluir la rendición de cuentas produce un tipo de respuesta distinto al de una auditoría que empieza buscando infracciones.
Una herramienta de IA que reescribe descripciones de productos tiene un impacto distinto al de un sistema que ajusta automáticamente los precios en función de la demanda y la competencia, o al de una herramienta que utiliza datos de clientes para hacer recomendaciones. En el comercio minorista, la clasificación por función y nivel de riesgo es, por tanto, importante: ¿se trata de una herramienta de apoyo, de un sistema que prepara decisiones, o de un sistema que toma decisiones de forma autónoma que afectan directamente a los clientes, como la fijación dinámica de precios o el rechazo automatizado de devoluciones? Esta clasificación determina qué nivel de supervisión y documentación resulta lógico, y qué sistemas requieren la atención de la dirección o de la gestión de riesgos y cuáles pueden gestionarse dentro de un equipo.
Las organizaciones del comercio minorista suelen tener ya estructuras de riesgo para cuestiones como la seguridad de los productos, la normativa de privacidad relativa a los datos de clientes o el control financiero en la fijación de precios. La gobernanza de la IA no tiene por qué ser un proceso nuevo y separado junto a esas estructuras. Funciona mejor cuando el inventario del uso de la IA se vincula a las categorías de riesgo existentes, de modo que un sistema que procesa datos de clientes se evalúe a través del mismo canal que otros procesos sensibles en materia de privacidad, y que un algoritmo de precios siga la misma línea que otras decisiones comercialmente sensibles. La normativa actual sobre sistemas de IA está en evolución; las obligaciones y plazos concretos se describen en otro lugar. Lo que aquí importa es el mecanismo: saber qué está en funcionamiento, saber quién lo utiliza y saber qué nivel de riesgo tiene antes de que exista un motivo externo para investigarlo.
Los retos varían según el sector, aunque el mecanismo subyacente es comparable. Quien desee comparar cómo se manifiesta esto en un sector con mucho contacto con el cliente y trabajo flexible, lo encontrará en la descripción de la gobernanza de la IA en la hostelería, mientras que un sector con fuertes dependencias en la cadena y procesos físicos se aborda en el análisis de la gobernanza de la IA en el sector agrícola. Para las organizaciones que desarrollan o adquieren mucho software propio, resulta relevante el panorama de la gobernanza de la IA en el sector TIC, y quien opere con datos de clientes fuertemente regulados puede establecer la comparación con la gobernanza de la IA en los servicios financieros.
Un inventario del uso de la IA muestra qué está en funcionamiento y quién lo utiliza, pero aún no responde a la pregunta de qué significa esto para la organización del propio trabajo. En el comercio minorista, donde las tareas suelen ser rutinarias y estar bien delimitadas —desde responder preguntas de clientes hasta redactar textos de productos—, esa pregunta posterior es real. El escáner de trabajo de FTE TO AI calcula, por tarea, qué parte del trabajo puede ser asumida por la IA, a partir de las tareas tal como se ejecutan de hecho. Mientras que el Responsible AI Scan detalla qué está ocurriendo y bajo qué nivel de riesgo se encuadra, el escáner de trabajo ofrece la perspectiva de la organización del trabajo: qué tareas se prestan a ser asumidas por la IA, y en qué medida.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.