A supervisão humana é frequentemente registada como uma função: alguém responsável, um nome num registo, uma caixa assinalada. Esse é o ponto de partida, não o mecanismo em si. A supervisão só existe quando há um momento em que um ser humano pode ver o resultado de uma aplicação de IA, pode compreendê-lo e pode corrigi-lo antes de esse resultado chegar a algum lugar. Sem esse momento, o nome sob a classificação é uma formalidade.
Se a supervisão funciona na prática depende de vários elementos que não se juntam automaticamente. Tem de haver alguém com a competência para impedir um resultado, não apenas a tarefa de o observar. Tem de haver tempo para observar, o que significa que o processo não pode estar organizado de forma a que o resultado da IA já tenha sido processado antes de o controlo ocorrer. E tem de haver compreensão suficiente do que a aplicação faz para reconhecer um desvio. Um controlador que não consegue avaliar o resultado não exerce supervisão, mesmo que a função lhe tenha sido formalmente atribuída.
Isto está relacionado com o que significa a literacia em IA para os seus colaboradores: a supervisão sem compreensão da aplicação subjacente é supervisão apenas no papel.
Uma estrutura de governação pode determinar quem é responsável por quê, qual o nível de risco de uma aplicação e quais os passos correspondentes. O que a estrutura não faz é garantir que essa pessoa efetivamente avalia o resultado no momento em que isso conta. Isso é um dado organizacional, não um dado técnico. Uma classificação pode estar correta e, ainda assim, a supervisão pode estar vazia, porque a pessoa formalmente responsável não tem o tempo, o acesso ou o conhecimento para verificar o resultado.
O inventário e a classificação revelam onde este risco é maior: em aplicações com um nível de risco mais elevado, ou em aplicações que entraram fora do processo de TI habitual. Este último grupo é frequentemente o mais difícil, pois quem quer organizar supervisão sobre algo que não consta do registo tem primeiro de o encontrar. Isto está relacionado com a questão o que fazer com colaboradores que usam uma ferramenta que ninguém aprovou: a supervisão sobre IA sombra começa por reconhecer que essa aplicação existe, não por sancionar a sua utilização.
Uma aplicação que hoje está sob supervisão pode ter mudado amanhã. Um modelo é atualizado, os dados de entrada alteram-se, ou a utilização dentro da organização cresce de uma tarefa simples para algo com mais peso. Uma supervisão organizada para a situação de há um ano já não corresponde ao que acontece agora. Esta é uma das razões pelas quais a classificação não é um exercício único; a frequência com que isso deve voltar a acontecer depende do nível de risco e do grau em que a aplicação se altera, como desenvolvido em com que frequência deve reclassificar.
Isto também significa que um registo só tem valor se for mantido. Um inventário criado na primeira análise e nunca mais atualizado dá uma imagem cada vez mais imprecisa de onde é necessária supervisão. A questão de como uma organização mantém esse registo atualizado é distinta da questão de como o registo foi construído, e merece atenção própria: ver como manter um registo de IA atualizado.
Uma administração a quem é pedido que demonstre que existe supervisão sobre a utilização de IA não pode limitar-se a uma lista de funções. A demonstrabilidade exige um rasto: quem observou que resultado, em que momento, com que competência para corrigir. Esse rasto também é relevante no momento em que algo corre mal. A questão de quem é responsável quando uma aplicação de IA comete um erro não é respondida apenas pela classificação, mas pela supervisão demonstrável que se seguiu. Estas duas questões são facilmente confundidas, embora a distinção seja relevante; ver quem é responsável quando uma aplicação de IA comete um erro.
A supervisão também está relacionada com o que é introduzido numa aplicação. Um colaborador que cola dados empresariais numa janela de chat gratuita coloca esses dados fora de qualquer supervisão que a organização tenha organizado, independentemente da qualidade com que a supervisão sobre as aplicações aprovadas esteja organizada. Este é uma área de atenção distinta dentro da questão mais ampla, desenvolvida em o que fazer com dados empresariais numa janela de chat gratuita.
Esta página descreve como a supervisão funciona como mecanismo: quem observa, quando, com que competência, e como isso se torna demonstrável. As normas de conteúdo que determinam quando a supervisão é obrigatória, quão rigorosa essa supervisão deve ser por categoria de risco, e dentro de que prazos deve estar organizada, não constam aqui. O conteúdo dessas regras muda e é mantido atualizado noutro local.
Organizar supervisão sobre uma tarefa só faz sentido se estiver claro o que essa tarefa exatamente implica e qual parte dela é realizada por uma aplicação de IA. Essa é uma questão diferente de qual função ou nível de risco uma aplicação tem; trata-se da própria tarefa, dividida nos passos que uma aplicação de IA pode assumir e nos passos que não são elegíveis para isso. A análise de trabalho da FTE TO AI calcula isso por tarefa, tornando visível qual parte do trabalho pode ser assumida e qual parte deve permanecer dentro do alcance da supervisão humana.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.