Adquirir um sistema de IA e utilizá-lo tal como é fornecido é uma situação diferente de adaptar um modelo aos seus próprios dados ou objetivo. Essa adaptação pode alterar a classificação da sua organização — e com isso as perguntas que deve conseguir responder. Se isso acontece, e quanto peso tem, depende do que exatamente está a ser adaptado e para que fim o sistema é utilizado.
A classificação não depende da questão de saber se escreveu o código-fonte. Depende do que efetivamente acontece com um modelo depois de chegar até si. Alguns fatores que influenciam:
Estes fatores atuam em conjunto. Não existe um limiar fixo válido em todos os casos; a regulamentação em vigor, com os critérios precisos, encontra-se noutro lugar, e esse texto pode ser alterado. O que permanece válido nesta página é o mecanismo: adaptar pode mudar o papel, e o papel determina a obrigação.
O papel que a sua organização assume relativamente a um sistema de IA não é fixo. Quem apenas utiliza um modelo tal como foi fornecido tem, geralmente, uma posição diferente de quem altera o modelo e depois o coloca no mercado ou o aplica internamente em grande escala. A questão de quando ocorre essa transição, e o que muda nesse momento naquilo que deve conseguir demonstrar, é abordada em quando o seu papel muda e onde está esse limite. Para organizações com dúvidas sobre se são fornecedoras ou utilizadoras — uma questão que surge mais frequentemente do que se pensa assim que há adaptações internas — existe uma explicação separada em a distinção entre fornecedor e utilizador de um sistema de IA.
A razão pela qual isto importa não é formal. Uma mudança de papel altera o que deve conseguir mostrar: que documentação mantém, quem dentro da organização é responsável pela supervisão, e que passos foram tomados antes de o sistema adaptado entrar em uso. Um modelo que adaptou por conta própria é um modelo relativamente ao qual pode ser-lhe pedido que preste contas de como essa adaptação foi feita.
A adaptação também pode influenciar o nível de risco de uma aplicação. Um modelo originalmente destinado a uma aplicação de risco reduzido pode, através da adaptação, passar para uma categoria de maior risco — por exemplo, quando, após a adaptação, é utilizado para decisões sobre pessoas. O que um nível de risco elevado significa concretamente para as obrigações da sua organização está descrito em o que um nível de risco elevado significa para os requisitos da sua organização. Também aqui se aplica: a classificação decorre da utilização, não da intenção com que o modelo foi originalmente construído.
Isto toca diretamente no cerne da IA sombra (shadow AI). Uma adaptação que não passa pelo departamento de TI — uma equipa que faz o ajuste fino de um modelo por conta própria num conjunto de dados próprio, ou um departamento que liga um modelo externo a sistemas internos sem que isso seja reportado — altera a classificação da sua organização sem que a direção tenha conhecimento disso. A lista de TI não mostra essa adaptação. Quem quiser saber se isto está a acontecer tem de perguntar às equipas que trabalham diariamente com isso, e essa conversa só produz resultados se for conduzida sem represálias.
Quando uma adaptação altera o papel ou o nível de risco de uma aplicação, várias coisas mudam ao mesmo tempo: a documentação que deve ser mantida, a questão de quem dentro da organização é o responsável por essa aplicação, e o momento em que algo ainda pode ser planeado versus o que já exige atenção. Essa distinção — entre o que já é urgente agora e o que pode ser planeado — está relacionada com fatores explicados em o que já exige atenção agora e o que ainda pode ser planeado. Um desenvolvimento mais aprofundado da própria questão de classificação, incluindo os casos-limite mais frequentes na prática, encontra-se em a explicação completa sobre o que muda ao adaptar um modelo por conta própria.
Um modelo adaptado é, na prática, muitas vezes também um modelo que assume parte do trabalho de pessoas que antes realizavam uma tarefa integralmente por si próprias. Se é esse o caso, e que parte do trabalho está envolvida, é uma questão distinta da questão da classificação, mas que muitas vezes a segue: assim que se torna claro que um modelo foi adaptado e para que fim é utilizado, também se torna visível que parte de uma tarefa este efetivamente executa. A werkscan da FTE TO AI calcula isso por tarefa e mostra que parte do trabalho pode ser assumida pela IA, independentemente da forma como o modelo subjacente foi criado.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.