Uma equipa quer trabalhar mais rápido e ativa uma ferramenta de IA, geralmente para testar algo concreto: um resumo, um primeiro rascunho, uma classificação. Não há processo de aprovação porque "é só um teste". O teste funciona, ou funciona suficientemente bem, e desaparece no processo diário sem que nunca tenha sido tomada a decisão de o manter. Nunca houve um momento em que alguém escolhesse deliberadamente: isto incluímos no nosso inventário de IA, para isto há um responsável, isto cabe nesse nível de risco. Houve apenas um momento de começar, e esse momento fica gravado numa forma de trabalhar que já ninguém tocou.
Interromper uma montagem experimental exige uma decisão. Continuar não exige nada. Enquanto ninguém reportar um incidente ou uma parte externa pedir prova de controlo, não há motivo para voltar a algo que já há muito se tornou trabalho normal. As pessoas que usam a ferramenta não têm interesse em chamar a atenção para isso: funciona, poupa tempo, e reportar parece correr o risco de que lhes seja retirada. Assim, uma solução temporária permanece estrutural, não porque ninguém sabe, mas porque ninguém faz a pergunta que levaria ao encerramento.
É tentador pensar que uma visão geral do software aprovado torna isto visível. Essa visão geral mostra o que foi adquirido, não o que é utilizado. Uma montagem experimental corre frequentemente fora desse canal: uma conta gratuita, uma extensão de browser, uma subscrição isolada num cartão de equipa. O mesmo padrão ocorre com uma extensão de browser com acesso ao seu email, com um departamento com subscrição própria fora da compra centralizada, e com dados empresariais colados numa janela de chat gratuita sem que exista um contrato com condições de subcontratação por trás disso. Nenhuma destas situações consta de uma lista de TI, pois nenhuma delas foi alguma vez registada como projeto.
A única forma de saber o que realmente está a funcionar é perguntar. Não como controlo posterior, mas como abertura: o que utiliza, para quê, e desde quando. Quem faz essa pergunta com a ameaça de sanções em segundo plano, não obtém resposta ou obtém uma resposta incompleta. Colaboradores que usam uma ferramenta que ninguém aprovou têm algo a perder com a honestidade e nada a ganhar. É exatamente essa tensão que surge em colaboradores que usam uma ferramenta que ninguém aprovou: sem um convite seguro para responder, a montagem experimental permanece subterrânea, e não desaparece, apenas se torna mais silenciosa.
Um inventário sem consequências para quem reporta é o primeiro passo, não a conclusão. Depois de tornar visível, segue-se a classificação: o que é isto, que papel desempenha num processo, e que nível de risco lhe corresponde. Uma ferramenta de resumo para notas internas exige um regime diferente de uma ferramenta que participa na decisão sobre aceitação de clientes ou avaliação de pessoal. Essa classificação deve encaixar na estrutura de risco que já existe, não num novo quadro à parte. Um segundo processo informal que é ignorado ao lado do processo existente é exatamente por isso que um segundo processo ao lado do existente é ignorado é um padrão reconhecível: as pessoas seguem o caminho de menor resistência, e esse caminho só se torna visível quando alguém pergunta por ele.
Depois surge a questão de quem ainda o observa. Uma montagem experimental que foi libertada no trabalho diário já geralmente não tem um responsável que avalie os resultados antes de serem utilizados. É aqui que o que significa a supervisão humana na prática se torna relevante: não como princípio abstrato, mas como pergunta concreta sobre quem lê o resultado antes de este afetar um cliente, um processo ou uma decisão.
Um administrador a quem isto é questionado — por um supervisor, um auditor, um conselho fiscal — tem duas opções: dizer que a visão geral está completa, ou dizer que existe um processo para a tornar e manter completa. A segunda opção é mais honesta e, a longo prazo, mais forte, porque uma organização que inventaria ativamente tem algo demonstrável, mesmo quando o inventário ainda não está terminado. O ponto não é que nunca mais surgirá uma montagem experimental não autorizada. O ponto é que existe um mecanismo que as encontra antes que um incidente o faça por si.
Uma vez visível qual a IA que surgiu de forma não planeada, surge frequentemente outra pergunta: se esta equipa já fazia isto, sem que ninguém o organizasse, o que aconteceria se realmente o organizássemos? Essa é uma pergunta diferente da governação, e cabe ao scan de trabalho da FTE TO AI, que calcula por tarefa que parte do trabalho pode razoavelmente ser assumida pela IA. Onde esta página descreve como obter controlo sobre o que já está em funcionamento, esse scan descreve o que, com o mesmo olhar sensato sobre tarefas e riscos, ainda pode ser construído.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.