As instituições de ensino têm uma característica que poucos outros setores compartilham: os utilizadores de IA são, em grande parte, as próprias pessoas que a instituição deve formar, não controlar. Alunos e estudantes utilizam modelos de linguagem para fazer trabalhos, resumos e teses, muitas vezes mais rápido e de forma mais abrangente do que os professores e responsáveis pela política conseguem acompanhar. Os professores utilizam essas mesmas ferramentas para agilizar a correção, desenvolver material didático ou formular feedback. No meio disso encontra-se uma direção responsável pela qualidade do ensino, pela realização de exames e pela proteção dos dados pessoais de alunos, muitas vezes menores de idade, sem ter sempre uma visão clara do que acontece na prática.
Essa relação — o uso que começa no utilizador, não na organização — torna a governança na educação diferente de um ambiente empresarial onde o departamento de TI adquire e implementa uma ferramenta. Aqui, o uso surge primeiro, disperso por milhares de escolhas individuais, e a questão do controlo só surge depois.
Um inventário de software educacional mostra quais ambientes digitais de aprendizagem, sistemas de avaliação e pacotes administrativos foram adquiridos. Essa lista diz pouco sobre o que os professores realmente utilizam para criar material didático, e ainda menos sobre o que os alunos e estudantes utilizam para fazer os trabalhos. Um chatbot acessível gratuitamente através de um navegador não requer aprovação do departamento de TI e não aparece em nenhuma visão geral de contratos.
Isso faz da IA-sombra na educação um dado estrutural, não uma excepção. O uso está disperso entre professores que decidem individualmente como aplicar uma ferramenta, entre estudantes que experimentam sem que ninguém pergunte, e entre partes da organização — desde o planeamento de horários até à orientação de estudos — que procuram soluções de forma independente umas das outras. Uma visão completa exige, portanto, não apenas um levantamento técnico, mas também uma pergunta às pessoas que trabalham com isso diariamente: o que utiliza e para quê.
Essa pergunta só gera uma resposta honesta se não estiver associada a nenhuma sanção. Um professor que admite que os trabalhos são corrigidos com ajuda de IA, ou um aluno que conta como uma tese foi elaborada, não o fará se existir o risco de esse uso ser tratado como uma infração. As instituições que querem sobretudo saber o que está a acontecer beneficiam, portanto, de uma abordagem que primeiro mapeia o uso e só depois, separadamente, coloca a questão da desejabilidade e das regras. Quem coloca as duas perguntas ao mesmo tempo não obtém resposta à primeira.
Nem todo o uso de IA numa escola ou instituição tem o mesmo peso. Uma ferramenta que ajuda os professores a formular feedback sobre uma redação tem um impacto diferente de um sistema que conta para a avaliação de um exame, ou de uma ferramenta utilizada na seleção de estudantes para um curso. Onde a IA pesa numa decisão sobre um aluno ou estudante individual — uma nota, um parecer, uma admissão — o nível de risco é mais elevado do que onde a IA apenas poupa tempo em trabalho preparatório.
Essa classificação por função e risco é necessária para distribuir bem a atenção limitada. Nem todo o uso exige o mesmo nível de supervisão, e uma abordagem de governança que trata tudo da mesma forma acaba precisamente por perder a visão de conjunto nos locais onde o risco é mais elevado.
As instituições de ensino já têm frequentemente formas de supervisão: uma comissão de exames, um conselho de participação, um responsável pela protecção de dados, um sistema de garantia de qualidade. A governança de IA funciona melhor quando se liga a essas estruturas existentes do que quando se cria um circuito novo e separado. A comissão de exames que já determina quais são os meios auxiliares permitidos numa avaliação é o local lógico para também avaliar o uso de IA. A questão de governança não é, portanto, apenas quais regras vão vigorar, mas também a quem, dentro da organização existente, é atribuída a supervisão.
Os quadros legais atuais — o que é obrigatório, para quem, e em que prazo — são tratados noutro lugar. Aqui, trata-se do mecanismo: saber o que é utilizado, saber quem é responsável por isso, e conseguir demonstrá-lo perante a direção, o supervisor ou os pais.
O setor educacional partilha com outros ambientes o facto de a IA-sombra ser a norma e não a excepção, mas a razão é diferente. Enquanto a governança de IA nos serviços financeiros é sobretudo orientada pela supervisão de decisões individuais sobre clientes, e a governança de IA no setor das TIC gira em torno da IA que se torna ela própria parte do produto entregue, na educação trata-se de um grande grupo de utilizadores que não tem uma posição formal na organização, mas que representa a maior parte do uso efetivo. Esse é um desafio diferente do de a governança de IA no retalho, onde o uso geralmente está associado a colaboradores numa determinada função.
Um inventário de que IA é utilizada e por quem é um primeiro passo. A pergunta que se segue é mais específica: que parte do trabalho que professores, colaboradores de apoio pedagógico ou responsáveis pela política atualmente fazem é adequada para ser assumida pela IA, e que parte não é. Essa é uma pergunta por tarefa, não por função ou departamento. O scan de trabalho da FTE TO AI calcula isso ao nível da tarefa e mostra que parte do trabalho pode efetivamente ser automatizada, independentemente das ferramentas que já circulam para esse fim.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.