Os sistemas de TI registam comportamento, não intenção. Isso torna-os um ponto de partida útil para um inventário, e ao mesmo tempo uma fonte incompleta. Quem quer construir um panorama da IA que efetivamente é utilizada precisa de saber quais sinais dizem algo e quais dão uma falsa sensação de completude.
O tráfego para domínios de fornecedores de IA é geralmente o sinal mais concreto disponível. Uma firewall ou proxy regista quais domínios são acedidos, a partir de que dispositivo, e com que frequência. Isto mostra utilização que ninguém precisou de comunicar. Não mostra o que aconteceu nessa interação: que dados foram introduzidos, para que tarefa, com que resultado. O tráfego para o domínio de um chatbot pode ser um teste único ou uma rotina de trabalho diária. Sem contexto adicional, essa distinção permanece invisível.
Faturas, subscrições e movimentos de cartão de crédito mostram quais ferramentas foram formalmente adquiridas, muitas vezes fora do processo oficial de compras de TI. Uma equipa que subscreve uma ferramenta com um cartão empresarial deixa um rasto que as compras ou a área financeira conseguem localizar. Este sinal é fiável quanto ao que foi adquirido, mas nada diz sobre ferramentas gratuitas, versões de teste ou contas pessoais utilizadas para trabalho. Mais sobre o que este rasto revela concretamente está descrito na página sobre rastos de compras e licenciamento como fonte para um inventário de IA.
As plataformas de single sign-on e os fornecedores de identidade registam quais aplicações foram ligadas a uma conta empresarial. Este sinal capta ferramentas que obtiveram acesso via OAuth a, por exemplo, uma conta de e-mail ou um ambiente de documentos. É uma das poucas fontes que também mostra que permissões uma ferramenta recebeu, não apenas que foi utilizada. A limitação: ferramentas utilizadas sem essa ligação, através de um browser e uma conta isolada, ficam fora deste âmbito.
O software instalado em portáteis e estações de trabalho é geralmente visível através da plataforma de gestão que a TI utiliza para patches e atualizações. Isto mostra ferramentas de IA instaladas, mas não capta tudo o que funciona através de um browser sem instalação. Para a maioria das aplicações de IA utilizadas atualmente, essa é uma parte substancial do total.
Em organizações onde há programadores a trabalhar, a utilização de modelos de IA através de APIs constitui um rasto separado. As plataformas de gestão dos fornecedores de cloud e os gateways de API registam quais chaves estão ativas e que volume processam. Este sinal é muitas vezes o mais subestimado: um script isolado que invoca um modelo para uma tarefa interna fica fora de qualquer conversa sobre "ferramentas de IA", porque ninguém o reconhece como tal.
Cada uma destas fontes mostra uma parte do comportamento, registada por um sistema que não foi concebido para esse fim. Nenhum destes sinais regista porque é que uma ferramenta é utilizada, para que tarefa, com que tipo de dados, ou quem é o responsável por ela. É por isso que um inventário que se baseia apenas na técnica dá uma imagem distorcida. Porque é que a lista que a TI fornece estruturalmente não corresponde ao que realmente é utilizado está explicado na página sobre porque a lista da TI está errada.
Os sinais técnicos são um motivo para perguntar, não um substituto para a pergunta em si. Um colaborador que utiliza uma ferramenta para elaborar textos de conceito, acelerar uma análise ou verificar código sabe coisas que nenhum registo capta: porque escolheu essa ferramenta, o que faz com ela, e o que perderia se fosse desativada. Essa conversa só produz resultados se for conduzida sem consequências punitivas. Como isso é abordado na prática está descrito na página sobre como fazer perguntas sem que pareça uma prestação de contas.
O valor dos dados de rede, dos rastos de compras, dos registos de identidade e das conversas com colaboradores só surge quando são reunidos numa estrutura fixa: que aplicação, que função, que nível de risco, que responsável. Sem essa estrutura, permanece um conjunto de observações isoladas. Como essa construção se desenrola passo a passo está descrito na página sobre como construir um inventário de IA, e o que exatamente deve ser registado por aplicação está na página sobre os campos de registo por aplicação de IA.
Um panorama completo de que IA é utilizada responde à pergunta sobre visão geral e risco. Não responde à pergunta de quanto do próprio trabalho pode ser assumido pela IA, e onde isso se concretiza, tarefa a tarefa. Assim que estiver claro que ferramentas são utilizadas em que função, essa pergunta seguinte surge naturalmente. O werkscan da FTE TO AI calcula, por tarefa, que parte do trabalho pode ser assumida pela IA, como complemento ao panorama que a Responsible AI Scan proporciona.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.