Em transporte e logística, a IA raramente está num sistema separado com um nome e um proprietário, mas sim entrelaçada na própria operação: planeamento de rotas, otimização de carga, sistemas de manutenção preditiva, previsão de procura, e os algoritmos que determinam qual motorista recebe qual viagem. Parte disso entra através de software de transportadoras, expedidores ou plataformas, e funciona, portanto, com regras de decisão que a própria organização não configurou e que, por vezes, não consegue ver na totalidade. A proporção entre o que o departamento de planeamento adquiriu diretamente e o que entra através de parceiros da cadeia ou de funcionalidades incorporadas está em constante mudança. Isso não torna a inventariação neste setor mais simples do que noutros, mas sim diferente: a questão não é apenas quem instalou uma ferramenta de IA, mas também quais decisões automatizadas já existiam em sistemas existentes antes de alguém as designar como IA.
Um levantamento de software aprovado raramente conta a história completa. Planeadores que usam uma ferramenta de IA para otimizar rotas, atendimento ao cliente que utiliza um chatbot para rastreamento (track-and-trace), ou um colaborador de armazém que usa uma aplicação para fazer previsões de stock: este tipo de aplicações surge frequentemente a nível local, motivado pela pressão do tempo ou por uma tarefa concreta, sem que ninguém tenha apresentado um pedido formal. Quem quer mapear isto tem de perguntar às pessoas que realizam o trabalho, e isso só resulta se fazer perguntas não desencadear imediatamente uma correção. Uma organização que quer encontrar IA-sombra tem primeiro de deixar claro que comunicar não é um risco.
Uma inventariação que vai além da lista de TI mostra quais aplicações de IA estão efetivamente em uso, onde se situam no processo, e quem lhes atribui decisões. No transporte e logística, isso significa frequentemente distinguir entre sistemas que apenas aconselham, sistemas que planeiam automaticamente sem intervenção, e sistemas que têm impacto em pessoas fora da organização, como motoristas ou clientes a quem é apresentado um prazo de entrega com base numa previsão. Essa distinção é relevante porque altera o nível de risco: uma ferramenta que apenas dá uma sugestão a um planeador exige uma forma diferente de supervisão em comparação com um sistema que determina de forma autónoma horários ou rotas.
Após a inventariação, segue-se a pergunta sobre o que cada aplicação faz exatamente e para quem. Um sistema que prevê quando é necessária manutenção tem um impacto diferente de um sistema que determina qual motorista recebe uma viagem com base em dados de desempenho. Classificação aqui não significa aplicar um modelo fixo, mas sim organizar o que foi encontrado: qual aplicação afeta decisões sobre pessoas, qual afeta apenas a otimização logística, e qual funciona puramente como apoio. A regulamentação atual que determina que obrigações se ligam a que nível de risco encontra-se noutro local; aqui trata-se da estrutura necessária para poder aplicar essas regras mais tarde, independentemente do que o texto prescreva exatamente.
As empresas de transporte já trabalham geralmente com gestão de risco em torno da segurança, planeamento e conformidade. A governança de IA não precisa de ser um novo aparato ao lado desse sistema existente; funciona melhor quando a classificação das aplicações de IA se liga a categorias já existentes, de modo a que um administrador ou gestor de risco não tenha de manter dois levantamentos separados. Isso exige um conjunto de governança que indique quem gere uma aplicação, quem é responsável por ela, e que controlo existe sobre ela, numa forma que se ajuste à estrutura de relatório e responsabilização já presente.
Um administrador ou General Counsel a quem seja pedido que declare quais sistemas de IA estão ativos na organização precisa de conseguir fundamentar isso com mais do que uma lista do sistema de compras. Demonstrabilidade significa que existe um levantamento atualizado das aplicações, da sua classificação e do estado da supervisão sobre elas, e que esse levantamento resiste quando alguém questiona mais a fundo. Outros setores enfrentam questões semelhantes, como se pode ver em Governança de IA no comércio a retalho, Governança de IA no setor agrícola e Governança de IA no setor das TIC, cada um com uma relação própria entre o que foi adquirido de forma centralizada e o que surgiu localmente.
O Responsible AI Scan que reúne esta inventariação, classificação e estrutura de governança está em desenvolvimento. Quem quiser começar a trabalhar com isto pode inscrever-se na lista de espera; não existe atualmente um produto pronto para encomendar, e não é essa a impressão que se pretende dar aqui.
Uma vez que fique claro quais aplicações de IA operam na cadeia de transporte e qual nível de risco lhes corresponde, surge uma questão seguinte que não se responde com inventariação: quanto do trabalho que planeadores, motoristas ou colaboradores de atendimento ao cliente realizam atualmente pode, de facto, ser substituído por estas aplicações. Essa questão está próxima da governança, mas não é igual a ela, e é respondida pelo werkscan da FTE TO AI, que calcula, por tarefa, que parte do trabalho pode ser substituída por IA.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.