Muitas iniciativas de governance começam com um novo processo: um formulário, uma etapa de aprovação, uma comissão que deve avaliar o uso de IA antes de este começar. A suposição é que os colaboradores seguirão este processo porque ele existe. Na prática, isso raramente acontece. Quem consegue executar uma tarefa mais rapidamente com uma ferramenta que encontrou por conta própria não vai pedir autorização a uma comissão cuja agenda não conhece e cujo prazo de resposta não consegue estimar. Ele usa a ferramenta e não diz nada sobre isso.
Isso não é má vontade. É uma reação racional a um processo que existe ao lado do trabalho em vez de dentro dele. Um segundo processo exige tempo, gera incerteza sobre o resultado e não oferece nenhuma vantagem visível para quem o segue. A probabilidade de ser ignorado é, assim, maior do que a probabilidade de ser seguido.
O resultado não é que não se use IA. O resultado é que se usa IA fora do alcance de quem é responsável. A lista de TI com ferramentas aprovadas permanece então uma descrição do que foi solicitado em algum momento, não do que está de facto a ser usado. Entre essas duas listas pode existir uma diferença considerável, e ninguém que olhe apenas para a lista aprovada consegue ver essa diferença.
Isto está diretamente relacionado com a questão de quem é responsável quando uma aplicação de IA comete um erro. Um gestor que queira poder atribuir responsabilidade precisa saber qual sistema influenciou uma decisão. Se esse sistema nunca foi registado porque o procedimento de registo foi ignorado, essa base falta precisamente no momento em que é necessária.
O método que aplicamos não começa com um processo de aprovação, mas com um levantamento que pergunta em vez de controlar. A diferença é pequena na forma e grande no efeito. Um colaborador a quem se pergunta o que usa e para que fim, sem que isso tenha consequências para ele próprio, não tem motivo para esconder a resposta. Um colaborador que sabe que uma resposta honesta pode levar a uma proibição ou a uma correção tem todos os motivos para adaptar a resposta.
Este é um ponto vulnerável do método e preferimos assinalá-lo do que ocultá-lo. Um levantamento sem prestação de contas produz uma imagem mais honesta do que uma auditoria com consequências, mas não garante que todo o uso seja comunicado. Quem usa uma ferramenta que suspeita ser problemática pode continuar a não a mencionar, mesmo sem ameaça direta. O levantamento reduz o limiar para comunicar; não o elimina por completo. O que o método oferece é uma maior probabilidade de obter uma imagem completa do que um processo que já sugere uma penalização de antemão.
Um segundo processo é ignorado. Um complemento a um processo existente tem mais probabilidade de se manter. Por isso, classificamos o uso de IA por função e nível de risco dentro da estrutura de risco que uma organização já utiliza, em vez de criar uma nova estrutura ao lado. O que é classificado como risco elevado acaba no mesmo lugar que outros riscos elevados dentro do registo de riscos existente. Isso significa também que a questão da frequência com que é necessário reclassificar não exige um novo calendário, mas se encaixa no ciclo existente de avaliação de risco.
Este encaixe não resolve tudo. Um registo de IA elaborado uma única vez torna-se desatualizado no momento em que alguém começa a usar uma nova ferramenta sem o comunicar. Por isso, a questão de como manter um registo de IA atualizado é tão importante quanto o levantamento inicial. Um registo que não é mantido volta, com o tempo, a ser uma descrição do passado.
A supervisão do uso de IA é frequentemente apresentada como uma questão técnica: um sistema que monitoriza, um painel que assinala. Mas a supervisão que funciona começa com pessoas que compreendem por que comunicar tem valor e que sabem o que acontece com a sua resposta. Trata-se de uma questão de comportamento, não apenas de técnica, e está relacionada com o que a supervisão humana na prática significa no dia a dia de trabalho, e com o que a literacia em IA para os colaboradores significa concretamente. Sem essa compreensão, qualquer processo, por bem concebido que seja, continua a ser um formulário que as pessoas preenchem porque é obrigatório, não porque traz algum benefício.
Esta abordagem não oferece certeza total de que todas as aplicações de IA serão encontradas. Reduz o limiar para comunicar e encaixa-se em estruturas existentes, mas uma organização que faz um levantamento pela primeira vez deve contar com o facto de que parte do uso permanecerá invisível, embora essa parte seja geralmente menor após um levantamento cuidadoso do que era antes.
Um levantamento do uso de IA mostra o que está em funcionamento e quem o utiliza, mas ainda não diz nada sobre quanto do trabalho subjacente pode efetivamente ser assumido pela IA. Essa questão está um passo mais além e é respondida pelo scan de trabalho da FTE TO AI, que calcula, tarefa a tarefa, que parte do trabalho pode ser assumida. Quem já sabe quais ferramentas são usadas na organização pode, com esse scan, investigar o que esse uso significa para a organização do próprio trabalho.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.