Os serviços profissionais não vendem um produto, mas um julgamento: um parecer, uma análise, uma segunda opinião. Isso torna a relação com a IA diferente da de setores onde a IA sobretudo acelera processos. Aqui, a IA toca diretamente no que é o núcleo da profissão — o próprio trabalho intelectual, e a confidencialidade daquilo que um cliente partilhou para tornar esse trabalho intelectual possível. Um advogado que alimenta um modelo de linguagem com documentos de um processo, um consultor que faz verificar uma análise preliminar por um chatbot, um contabilista que faz resumir números por um sistema externo: em todos os casos, desloca-se informação que na verdade deveria ter permanecido dentro das paredes do escritório e da relação de confiança com o cliente.
A relação entre o que as organizações adquiriram oficialmente aqui e o que os colaboradores efetivamente utilizam não está, em geral, equilibrada. Onde em setores com muitos processos operacionais a IA é frequentemente implementada através de um departamento de TI, nos escritórios de consultoria e advocacia a pressão é sobretudo individual: alguém com um prazo e uma ferramenta de IA que trabalha mais rápido do que o colega ao lado. Isso torna a IA sombra aqui não uma excepção, mas algo plausível como norma — precisamente num setor onde o tempo é faturado e a velocidade é recompensada.
Uma visão geral das licenças de software mostra o que foi adquirido, não o que é utilizado. Além disso, nos serviços profissionais, uma grande parte do pessoal trabalha com dispositivos próprios, extensões de navegador próprias e subscrições próprias de serviços de IA que nada custam para experimentar. Um sócio ou consultor sénior que utiliza um modelo de linguagem para testar um memorando preliminar não aparece em nenhum painel de TI. Ainda assim, é precisamente esse uso que apresenta o risco mais elevado: toca na confidencialidade do cliente, no sigilo profissional, na questão de quem é responsável por quê quando um parecer foi em parte formado por um algoritmo.
A única forma de saber o que realmente se passa é perguntar — e essa pergunta só tem sentido se nada estiver em jogo para quem responde. Um colaborador que suspeita que admitir o uso de IA resultará numa conversa sobre desempenho insuficiente responde negativamente ou não responde de todo. Um levantamento que parte da confiança em vez do controlo obtém um retrato diferente: não completo, mas mais honesto do que uma lista que apenas soma o que foi aprovado.
O uso de IA neste setor não se enquadra numa única categoria. Uma ferramenta que verifica factos num documento jurídico carrega um risco diferente de uma ferramenta que resume um documento interno de processo. Um sistema que ajuda a redigir um parecer fiscal destinado a um cliente exige um tipo de supervisão diferente de uma ferramenta que organiza atas. Uma governança que funciona começa por distinguir essas funções e níveis de risco, e associa-lhes um nível adequado de supervisão — não com base no nome do sistema, mas com base no que o sistema faz e para quem o resultado é, em última análise, destinado.
Os escritórios deste setor já têm frequentemente estruturas de gestão de risco: revisão de processos, princípios dos quatro olhos, verificação de conformidade, controlo de qualidade. Uma abordagem de governança de IA que fique desligada disso torna-se uma camada extra que ninguém adopta. É mais eficaz uma abordagem que se ligue à estrutura de risco existente: os mesmos proprietários, as mesmas linhas de reporte, o mesmo ritmo de verificação, com o uso de IA como parte do que já é analisado em vez de um percurso separado.
Um administrador ou General Counsel a quem é perguntado como o uso de IA está assegurado dentro do escritório pouco pode fazer com uma impressão. A demonstrabilidade exige um inventário registado: quais ferramentas, qual função, qual nível de risco, quais acordos sobre o que pode e não pode ser feito com elas. Isto não é primordialmente uma prestação de contas para o exterior — é, antes de tudo, para a própria administração um instrumento para saber sobre o que se está a gerir, antes que um supervisor, cliente ou a própria comissão de risco coloque a pergunta.
A forma como a IA sombra surge e a forma como a governança pode a ela ligar-se varia por setor. Quem quiser comparar como essa questão se desenrola onde muitos sistemas e contacto com clientes se cruzam, encontra isso em Governança de IA nos serviços financeiros; quem quiser ver como isso se manifesta num setor que constrói e utiliza os seus próprios produtos de IA pode ler isso em Governança de IA no setor das TIC; e para uma imagem de como isso funciona em organizações com muito pessoal operacional e pouca direção central de TI, há Governança de IA no comércio a retalho.
Um levantamento do uso de IA mostra o que está em funcionamento e quem o utiliza, mas não responde à pergunta que surge a seguir: que parte do próprio trabalho se deixa realmente transferir para a IA, e que parte não. Esse é um cálculo diferente, por tarefa em vez de por ferramenta. O werkscan da FTE TO AI faz esse cálculo: por tarefa, determina-se que parte do trabalho é elegível para ser assumida pela IA, como passo seguinte à visão geral que o Responsible AI Scan proporciona.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.