A pergunta sobre que aplicações ficam fora do âmbito parece pedir uma lista. Não é o caso. Se algo fica dentro ou fora do âmbito é uma classificação que depende do que uma aplicação faz, em que contexto, e para quem. A mesma tecnologia pode, numa aplicação, permanecer fora de vista e, noutra, receber plena atenção. Não existe, por isso, uma lista fixa de aplicações excluídas — existem sim alguns fatores que determinam a classificação.
O primeiro fator é a função da aplicação: o que o sistema decide ou aconselha, e para quem isso tem consequências. Uma ferramenta que reescreve texto interno situa-se de forma diferente de uma ferramenta que participa na decisão sobre um pedido, uma candidatura ou uma reclamação. O segundo fator é o nível de risco associado a essa função: à medida que as consequências para as pessoas são maiores, uma aplicação tende a deslocar-se para a parte mais pesada do espetro. O terceiro fator é o papel da própria organização: quem apenas utiliza um sistema é avaliado de forma diferente de quem o adapta, o treina adicionalmente ou o compõe a partir de componentes de terceiros. O que essa divisão de papéis implica exatamente e quando muda está descrito nas páginas sobre a distinção entre fornecedor e utilizador de um sistema de IA e sobre o momento em que um papel de utilizador se transforma noutra responsabilidade.
Um quarto fator é de natureza técnica, mas juridicamente relevante: o que uma organização altera num modelo existente altera, por vezes, a posição dessa organização no conjunto. Um modelo adquirido sem alterações situa-se de forma diferente no quadro do que um modelo submetido a finetuning com dados próprios ou incorporado num processo próprio. Essa fronteira — quando a adaptação implica uma mudança de papel — é tratada na página sobre o que muda quando um modelo é adaptado.
Como a classificação depende destes fatores, o âmbito não é uma característica fixa de uma ferramenta, mas um resultado que pode mudar. Um chatbot que começou como auxiliar de escrita interno pode, a partir do momento em que também responde a perguntas de clientes que conduzem a uma decisão, passar para outra parte do espetro. Um modelo adquirido como produto pronto a usar pode, após adaptação com dados próprios, implicar outro papel para a organização. Uma aplicação que hoje é considerada de baixo impacto pode pesar mais amanhã porque o contexto em que é utilizada mudou — outra equipa, outra decisão, outro grupo de pessoas afetado pelo resultado.
É precisamente por isso que uma classificação única não é suficiente. Uma classificação registada no momento da implementação nada diz sobre o que uma ferramenta faz um ano depois. O que hoje deve entrar no âmbito e o que pode ser planeado para mais tarde é, portanto, também uma questão que depende da situação atual — desenvolvida na página sobre a ordem entre o que exige atenção agora e o que pode vir depois.
A classificação dentro ou fora do âmbito torna-se mais difícil devido a um problema prático: a lista oficial de ferramentas adquiridas ou aprovadas não é a mesma lista das ferramentas efetivamente utilizadas. As equipas começam a utilizar funcionalidades de IA sem as fazer passar por um processo de pedido — não por má vontade, mas porque são facilmente acessíveis e resolvem um problema. Essa IA-sombra é precisamente a parte que torna impossível uma classificação dentro ou fora do âmbito, enquanto ninguém souber que a aplicação existe.
Quem quiser completar esse quadro tem de perguntar — e sem que a pergunta pareça uma acusação disfarçada. A partir do momento em que um colaborador suspeita que uma resposta honesta resulta numa sanção, a resposta não é dada e a ferramenta permanece invisível. Um inventário construído sobre a lógica da penalização produz, por definição, um quadro incompleto — e um quadro incompleto torna toda a classificação de âmbito provisória.
Como o âmbito pode mudar, registar a classificação é, no mínimo, tão importante como a própria classificação. Quem decidiu que uma aplicação ficava fora do âmbito, com base em que informação, e em que momento — este tipo de perguntas torna-se impossível de responder quando falta o registo. Como uma organização torna esse tipo de decisão configurável e rastreável está descrito na página sobre uma lista de decisões que torna as decisões de supervisão rastreáveis, e como essa classificação é reconhecível no documento que os colaboradores efetivamente consultam, na página sobre uma política de IA que corresponde ao que as pessoas realmente fazem.
A questão da classificação — o que fica dentro do âmbito e o que não fica — é sobre risco e responsabilidade, não sobre o que uma aplicação significa para o próprio trabalho. Essa segunda questão, o que uma tarefa pode exatamente delegar à IA, é uma conta separada. A werkscan da FTE TO AI calcula, por tarefa, que parte do trabalho pode ser assumida, independentemente da forma como essa aplicação se encaixa na classificação de governance.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.