Nem toda aplicação de IA numa organização exige a mesma rapidez. Algumas situações exigem atenção imediata, outras podem ser incluídas num ciclo normal de planeamento. O problema é que essa classificação raramente é feita de forma explícita. Sem classificação, tudo recebe a mesma urgência, ou — mais frequentemente — nenhuma urgência.
A questão de saber se algo precisa de ação agora ou pode esperar não é uma questão de preferência. Depende de vários fatores que, em conjunto, determinam o peso de uma aplicação.
O nível de risco da aplicação é o primeiro fator. Um sistema que toma decisões sobre pessoas — contratação, concessão de crédito, acesso a serviços — pesa de forma diferente de uma ferramenta que resume texto para uso interno. O que significa exatamente um nível de risco elevado para as obrigações de uma organização, e por que isso não é igual para todas as aplicações, está descrito em o que significa um nível de risco elevado para a sua organização.
O papel da organização é o segundo fator. Uma organização que desenvolve ou adapta um sistema de IA por si própria carrega responsabilidades diferentes de uma organização que adquire e utiliza um sistema já pronto. Esse papel pode, além disso, mudar sem que exista uma escolha consciente por trás disso: quem faz o finetuning de um modelo, o adapta ou o utiliza de forma diferente da prevista, pode assim passar de utilizador a fornecedor. Onde se situa essa fronteira está explicado em o que muda quando adapta um modelo por si próprio e em é fornecedor ou utilizador, do que depende isso.
O terceiro fator é saber se a aplicação está dentro do âmbito. Nem todo sistema chamado IA está sujeito às mesmas obrigações; algumas aplicações estão excluídas ou sujeitas a um regime mais leve. Quais as aplicações fora do âmbito e porquê está descrito em quais as aplicações que ficam fora do âmbito.
Estes três fatores — nível de risco, papel, âmbito — determinam em conjunto onde uma aplicação se situa na linha temporal. Uma aplicação de alto risco em que a organização atua como fornecedor exige uma rapidez diferente de uma aplicação de baixo risco que em breve poderá ficar fora do âmbito.
A classificação não é permanente. Uma aplicação que hoje é considerada controlável pode deixar de o ser amanhã — não porque as regras mudam, mas porque a própria aplicação muda. Um modelo que é adaptado, um sistema que recebe uma nova tarefa, uma ferramenta que passa de piloto interno a produção: cada uma destas etapas pode alterar o papel ou o nível de risco.
Também as alterações organizacionais desempenham um papel. Uma fusão, um novo fornecedor, uma expansão do uso para outro departamento — todos estes acontecimentos podem deslocar uma aplicação anteriormente classificada como 'pode ser planeada' para 'precisa de ação agora'. Quando um papel muda e onde se situa exatamente essa transição está desenvolvido em quando muda o seu papel, do que depende isso.
Isto significa que uma classificação única não é suficiente. O que hoje figura na agenda como um item planeado pode, devido a uma alteração noutro ponto da organização, ganhar um peso diferente. Uma reavaliação periódica fixa é, por isso, parte de qualquer classificação que se pretenda manter válida — não como um passo extra, mas como condição para manter a classificação atualizada.
Uma classificação clara evita dois erros opostos. O primeiro é tratar tudo como urgente, o que dilui as prioridades e dispersa a atenção por aplicações que representam pouco risco. O segundo é não considerar nada urgente, o que faz com que aplicações com risco real permaneçam sob o radar durante anos — muitas vezes porque nunca ninguém as classificou.
A classificação em si não é um documento único, mas uma estrutura que acompanha a evolução da organização. Proporciona uma visão geral do que exige atenção a curto prazo, do que pode ser incluído num processo regular e — de forma crucial — do que deve ser reavaliado assim que a situação se altere. Precisamente essa distinção, e a questão de que depende, está desenvolvida em o que precisa de ação agora e o que pode ser planeado, do que depende isso.
Esta classificação pressupõe que se sabe quais aplicações existem. Na prática, isso nem sempre é o caso. Além dos sistemas aprovados através de TI ou de compras, praticamente em todas as organizações existem ferramentas que ninguém solicitou e ninguém registou — um assistente de folhas de cálculo aqui, um gerador de texto ali, utilizados por pessoas que queriam resolver um problema e não queriam seguir um procedimento. Essa IA sombra não aparece na lista de TI, e quem pergunta sobre ela sem que haja algo em jogo para o utilizador tem mais probabilidade de obter uma resposta honesta do que quem ameaça imediatamente com uma sanção. Sem esse levantamento, qualquer classificação por urgência é uma classificação de parte da realidade, não do todo.
Esta página trata de classificação: o que pesa muito, o que pesa pouco, o que exige atenção agora e o que pode esperar. Uma outra questão, complementar, é o que uma aplicação de IA efetivamente proporciona dentro de uma tarefa. O scan de trabalho da FTE TO AI calcula, por tarefa, que parte do trabalho pode ser assumida pela IA, oferecendo assim uma imagem concreta ao lado da classificação de governação: não apenas se uma aplicação carrega risco, mas também o que ela contribui para o próprio trabalho.
O Responsible AI Scan está em desenvolvimento. Quem quiser utilizar o levantamento, a classificação e o conjunto de governação assim que estejam disponíveis pode inscrever-se na lista de espera.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.