O varejo é um setor no qual a IA se instala em dois níveis simultaneamente. Por um lado, há os sistemas grandes e visíveis: previsões de estoque, otimização de preços, motores de recomendação na loja online, chatbots no atendimento ao cliente. Esses geralmente já são conhecidos pelo departamento de TI e de compras, pois foram adquiridos e implementados em algum momento. Por outro lado, há um panorama muito mais difuso: colaboradores individuais no chão de loja, no marketing ou nas compras que utilizam uma ferramenta de IA para escrever descrições de produtos, responder a perguntas de clientes, gerar imagens de campanhas ou fazer scraping de preços da concorrência. Essa segunda camada costuma ser maior do que a primeira, simplesmente porque a barreira para experimentar uma ferramenta gratuita ou barata é baixa e o efeito é sentido imediatamente: um texto publicitário mais rápido, uma resposta mais rápida a uma reclamação.
Além disso, o varejo frequentemente trabalha com muitos colaboradores temporários e flexíveis, espalhados por múltiplas unidades ou canais. Isso torna mais difícil ter uma visão central única de quem usa quais ferramentas, e por quê. Uma sede pode ter uma política clara para os sistemas que ela mesma adquiriu, enquanto no nível das unidades ou dentro de uma equipe de loja online surgem aplicações de IA que não estão registradas em nenhum lugar. A proporção entre o que foi aprovado centralmente e o que surgiu localmente costuma ser desequilibrada neste setor: o número de sistemas oficialmente adquiridos é limitado, enquanto o número de aplicações individuais que os colaboradores passaram a usar por conta própria costuma ser muito maior.
O termo IA sombra soa técnico, mas no varejo é bastante prático: é a ferramenta que um colaborador de marketing usa para gerar postagens em redes sociais, o chatbot que uma equipe de atendimento ao cliente configurou por conta própria, ou o modelo de IA usado para analisar avaliações sem que isso nunca tenha sido revisado pelo departamento de TI ou jurídico. Isso raramente acontece por descuido. Acontece porque as ferramentas são acessíveis, porque a pressão por velocidade é alta, e porque ninguém disse explicitamente que não é permitido.
A lista de softwares aprovados pelo departamento de TI, portanto, oferece um quadro incompleto. Quem quiser um panorama completo precisa perguntar diretamente às pessoas. Isso só funciona se essa pergunta for feita sem consequências. No momento em que os colaboradores suspeitam que relatar o uso de IA levará a uma correção ou a uma proibição, a informação volta a desaparecer de vista e o uso migra para dispositivos pessoais ou contas particulares. Um levantamento que começa excluindo a prestação de contas produz um tipo de resposta diferente de uma auditoria que começa procurando infrações.
Uma ferramenta de IA que reescreve descrições de produtos tem um impacto diferente de um sistema que ajusta preços automaticamente com base na demanda e na concorrência, ou de uma ferramenta que utiliza dados de clientes para fazer recomendações. No varejo, a classificação por função e nível de risco é, portanto, relevante: trata-se de uma ferramenta de apoio, de um sistema que prepara decisões, ou de um sistema que toma decisões de forma autônoma e que afetam diretamente os clientes, como a fixação dinâmica de preços ou a rejeição automatizada de devoluções? Essa classificação determina qual nível de supervisão e documentação faz sentido, e quais sistemas exigem atenção da diretoria ou da gestão de riscos e quais podem ser tratados dentro de uma equipe.
As organizações de varejo geralmente já possuem estruturas de risco para questões como segurança de produtos, legislação de privacidade relacionada a dados de clientes, ou controle financeiro na fixação de preços. A governança de IA não precisa ser um processo novo e separado ao lado dessas estruturas. Funciona melhor quando o levantamento do uso de IA é vinculado às categorias de risco existentes, de modo que um sistema que processa dados de clientes seja avaliado pelo mesmo canal que outros processos sensíveis em termos de privacidade, e um algoritmo de preços siga a mesma linha que outras decisões comercialmente sensíveis. A regulamentação atual em torno dos sistemas de IA está em constante mudança; as obrigações e prazos precisos estão descritos em outro lugar. O que importa aqui é o mecanismo: saber o que está em funcionamento, saber quem o utiliza e saber o quão arriscado é antes que haja um motivo externo para investigá-lo.
Os desafios variam de setor para setor, embora o mecanismo subjacente seja semelhante. Quem quiser comparar como isso se manifesta em um setor com muito contato com clientes e trabalho flexível encontrará essa análise na descrição de governança de IA na hotelaria e restauração, enquanto um setor com fortes dependências de cadeia e processos físicos é tratado na análise de governança de IA no setor agrícola. Para organizações que desenvolvem ou adquirem muito software por conta própria, o panorama de governança de IA no setor de TIC é relevante, e quem trabalha com dados de clientes fortemente regulamentados pode fazer a comparação com governança de IA nos serviços financeiros.
Um inventário do uso de IA mostra o que está em funcionamento e quem o utiliza, mas ainda não responde à pergunta sobre o que isso significa para a organização do próprio trabalho. No varejo, onde as tarefas costumam ser rotineiras e bem delimitadas — desde responder a perguntas de clientes até escrever textos de produtos —, essa questão subsequente é real. A werkscan da FTE TO AI calcula, por tarefa, qual parte do trabalho pode ser assumida pela IA, com base nas tarefas conforme são efetivamente executadas. Enquanto a Responsible AI Scan mapeia o que está acontecendo e a qual nível de risco isso pertence, a werkscan oferece a perspectiva da organização do trabalho: quais tarefas se prestam à substituição, e em que medida.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.