Kennisbank

O que faz com dados empresariais numa janela de chat gratuita?

Alguém cola um pedaço de texto numa janela de chat para obter mais rapidamente um resumo, uma tradução ou um texto provisório. A janela é gratuita, a conta é pessoal, e ninguém pediu autorização para isso porque ninguém sabia que era necessária autorização. Esta é a forma mais comum de utilização de IA numa organização, e ao mesmo tempo a menos visível.

Como isto surge

Uma janela de chat gratuita não exige aprovação do departamento de TI, nem orçamento, nem processo de aquisição. Exige apenas um browser. Quem quer executar uma tarefa mais rapidamente abre a janela, cola o texto e recebe uma resposta. Os dados introduzidos podem ser qualquer coisa: um dossiê de cliente, um texto provisório com números empresarialmente sensíveis, um e-mail com dados pessoais. O que acontece a esses dados depois de serem colados, o utilizador geralmente não sabe. Aquilo com que a organização concordou é nada — não há contrato, não há acordo de subcontratação de tratamento, não há acordo sobre prazos de conservação.

Isto não acontece por descuido. Acontece porque a janela funciona, é mais rápida do que a alternativa oficial, e ninguém nunca explicou onde está o limite. O mesmo movimento está por detrás de uma extensão de browser com acesso ao seu e-mail: uma ferramenta que é funcionalmente útil, é instalada fora de qualquer supervisão, e trata dados sem que ninguém tenha verificado isso.

Por que não desaparece por si só

Uma janela de chat não desaparece porque surge um documento de política. Não desaparece porque o departamento de TI publica uma lista de ferramentas aprovadas. Enquanto a janela gratuita funcionar mais rápido do que a alternativa, continuará a ser utilizada — só que sem que ninguém o comunique. Uma proibição sem alternativa empurra a utilização para a clandestinidade; o trabalho não desaparece, só a visibilidade.

Este padrão repete-se em vários pontos de uma organização. Uma equipa que teve boas experiências adquire uma subscrição própria sem que ninguém fora dela o saiba. Um projeto-piloto que começou como teste continua a funcionar porque ninguém recebeu a incumbência de encerrar uma montagem de teste que nunca foi desligada. A lista de TI com software aprovado não é, em nenhum destes casos, uma representação fiável do que realmente se passa. Quem quer saber o que está a acontecer tem de perguntar — não como controlo, mas como levantamento.

O que significa perguntar, e o que não significa

A diferença entre uma organização que obtém visão e uma organização que não a obtém está na forma de perguntar. Quem pergunta com a ameaça de sanções em fundo não obtém resposta — ou obtém uma resposta que não é verdadeira. Quem pergunta sem represália, com a mensagem de que se trata de obter uma visão e não de punir, obtém informação honesta.

Essa visão tem de ficar registada em algum lugar. Não numa lista que ao fim de um mês está desatualizada, mas numa estrutura que registe o que está a funcionar, quem o utiliza, que dados aí entram, e que risco lhe corresponde. Como construir um inventário de IA descreve como esse levantamento decorre sem caça às bruxas: como um processo contínuo, não como uma ação pontual que depois é esquecida.

A cada aplicação que surge corresponde um conjunto fixo de dados: o que faz, quem a utiliza, que dados aí entram, e com base em que acordo isso acontece. Sem esse registo, uma janela de chat continua a ser uma aposta em vez de uma escolha avaliada. O que deve registar por aplicação descreve esse conjunto fixo, independentemente de a aplicação ser uma janela gratuita, uma subscrição paga, ou uma ferramenta que entrou através de um fornecedor. Também um fornecedor pode, de resto, ser ele próprio o motivo: um fornecedor que incorporou IA no seu produto altera a natureza de um contrato existente sem que isso corresponda sempre a um novo acordo.

O que uma organização pode fazer com isto

Uma janela de chat gratuita não é, por definição, um problema. É um sinal: existe uma tarefa que alguém quis executar mais rapidamente, e a oferta existente não respondia a isso. A questão não é apenas se a utilização para, mas se a organização oferece uma alternativa que se enquadra nos acordos — e se sabe que dados foram entretanto tratados através de um canal sobre o qual não tinha controlo.

Essas duas questões juntas — o que está a funcionar, e o que poderia substituí-lo — conduzem quase naturalmente a uma terceira questão: que parte do trabalho que agora passa por uma janela de chat isolada é, na verdade, uma tarefa que pode ser assumida pela IA de forma avaliada. É exatamente para isso que foi construído o scan de trabalho da FTE TO AI: calcula, por tarefa, que parte do trabalho pode ser assumida pela IA, de modo que a resposta a uma janela de chat gratuita não seja apenas uma proibição, mas também uma perspetiva sobre o que é possível fazer.