Kennisbank

Urgente ou planeável: de que depende a classificação

A pergunta atrás da pergunta

Um inventário de utilização de IA resulta normalmente numa lista demasiado longa para ser abordada de uma só vez. A pergunta que se segue não é "o que devemos fazer", mas "o que devemos fazer primeiro". Trata-se de uma questão de classificação, e a resposta não depende de quantos sistemas existem, mas do que esses sistemas fazem e para quem.

De que depende a urgência

O primeiro fator é o nível de risco da própria aplicação. Um sistema que prepara decisões sobre pessoas — contratação, concessão de crédito, atribuição de cuidados ou subsídios — exige um tratamento diferente de uma ferramenta que reescreve texto para uso interno. O que um nível de risco elevado significa para a sua organização varia, portanto, por aplicação, e essas diferenças determinam quais os sistemas que são tratados primeiro.

O segundo fator é o papel da organização relativamente a esse sistema. Quem compra um modelo e o utiliza sem alterações enfrenta obrigações diferentes de quem manda treinar um modelo com dados próprios ou ajusta estruturalmente o resultado. Se é fornecedor ou utilizador de uma aplicação de IA determina não só quais as obrigações aplicáveis, mas também quanto tempo é necessário para cumprir essas obrigações — um fornecedor tem, em regra, mais para preparar do que um utilizador.

O terceiro fator é se o sistema já está em utilização ou ainda está a ser adquirido. Um risco que já está em funcionamento — com utilizadores reais, decisões reais, dados reais — exige uma ordem diferente de um risco que ainda se encontra na fase contratual e onde os acordos ainda podem ser estabelecidos antes de o sistema entrar em funcionamento.

O que muda quando a situação muda

Esta classificação não é uma fotografia estática. Um sistema que hoje é de baixo risco pode deixar de o ser depois de uma alteração. O que significa quando ajusta um modelo você mesmo — fine-tuning, um novo conjunto de dados, uma aplicação diferente da mesma tecnologia subjacente — depende do que exatamente muda, mas a classificação feita anteriormente não se mantém automaticamente por isso.

O mesmo se aplica à mudança de papel. Uma organização que adquire um modelo pronto a usar e depois o ajusta significativamente pode, com isso, passar de utilizador a fornecedor. Quando esse papel muda não é sempre o momento do próprio ajuste, mas o momento em que esse ajuste altera o caráter do sistema. Também isto é uma questão de classificação, e também esta exige reavaliação sempre que a situação muda — não uma verificação única que depois se mantém válida.

E um sistema que ainda está em fase de aquisição passa de planeável a urgente no momento em que entra em funcionamento. A classificação que se aplicava à fase contratual não se aplica à fase de utilização.

O que isto significa para a ordem

A consequência prática é que um inventário não produz uma lista de prioridades de uma só vez, mas sim uma estrutura que tem de ser percorrida repetidamente. Sistemas com um nível de risco elevado e um papel de fornecedor ativo exigem atenção agora. Sistemas com um nível de risco baixo que ainda não estão em utilização podem ser planeados — mas o planeamento tem de incluir um momento de reavaliação, porque ajustes, mudanças de papel ou entrada em funcionamento podem inverter a classificação.

Isso exige um local fixo onde as decisões sobre essa classificação sejam registadas: qual o sistema classificado como urgente, com base em que fator, e quando essa avaliação foi feita pela última vez. Uma lista de decisões de supervisão é a forma através da qual essa classificação se torna demonstrável — não como administração extra, mas como a única prova de que a classificação não é fortuita, mas o resultado de um processo repetível.

A regulamentação efetiva — que prazos se aplicam, que obrigações por classe de risco correspondem a que data — encontra-se noutro local. Esta página descreve o mecanismo com que distingue urgente de planeável; o texto legal atual e os prazos não os encontrará aqui.

Da classificação ao conteúdo

A classificação em urgente e planeável diz algo sobre a ordem da atenção, não sobre o conteúdo do trabalho em si. Uma vez esclarecido qual a aplicação de IA que tem prioridade, permanece em aberto a questão do que essa aplicação faz exatamente com o trabalho que a rodeia: que parte de uma tarefa decorre automaticamente, que parte exige controlo, e que parte permanece a cargo de uma pessoa. Essa questão é respondida pela análise de funções da FTE TO AI, que calcula, por tarefa, que parte do trabalho pode ser assumida pela IA — um complemento à classificação aqui feita, centrado no conteúdo do próprio trabalho.