re-ai-gov Sur la liste d'attente

Kennisbank

Que faites-vous des données d'entreprise dans une fenêtre de chat gratuite ?

Quelqu'un colle un morceau de texte dans une fenêtre de chat pour obtenir plus rapidement un résumé, une traduction ou un texte de concept. La fenêtre est gratuite, le compte est personnel, et personne n'a demandé d'autorisation parce que personne ne savait qu'une autorisation était nécessaire. C'est la forme d'usage de l'IA la plus courante dans une organisation, et en même temps la moins visible.

Comment cela se produit

Une fenêtre de chat gratuite ne demande pas d'approbation de l'IT, pas de budget, pas de trajet d'achat. Elle ne demande qu'un navigateur. Celui qui veut accomplir une tâche plus vite ouvre la fenêtre, y colle le texte, et obtient une réponse. Les données saisies à cette occasion peuvent être n'importe quoi : un dossier client, un texte de concept avec des chiffres sensibles pour l'entreprise, un e-mail avec des données personnelles. Ce qui arrive à ces données après le collage, l'utilisateur ne le sait généralement pas. Ce à quoi l'organisation a consenti, c'est rien — il n'y a pas de contrat, pas d'accord de sous-traitance, pas d'accord sur les délais de conservation.

Cela ne se produit pas par négligence. Cela se produit parce que la fenêtre fonctionne, qu'elle est plus rapide que l'alternative officielle, et que personne n'a jamais expliqué où se situe la limite. Le même mouvement se cache derrière une extension de navigateur ayant accès à votre messagerie : un outil qui est fonctionnellement utile, qui est installé hors de tout contrôle, et qui traite des données sans que personne ne l'ait vérifié.

Pourquoi cela ne disparaît pas de soi-même

Une fenêtre de chat ne disparaît pas parce qu'un document de politique est publié. Elle ne disparaît pas parce que l'IT publie une liste d'outils approuvés. Tant que la fenêtre gratuite fonctionne plus vite que l'alternative, elle continuera à être utilisée — sauf que personne ne le signalera plus. Une interdiction sans alternative fait passer l'usage dans la clandestinité ; le travail ne disparaît pas, seule la visibilité disparaît.

Ce schéma se répète à plusieurs endroits dans une organisation. Une équipe qui a eu de bonnes expériences se procure son propre abonnement sans que personne d'autre ne le sache. Un pilote qui a commencé comme essai continue de fonctionner parce que personne n'a reçu la mission de désactiver une installation d'essai qui n'a jamais été arrêtée. La liste IT des logiciels approuvés n'est dans aucun de ces cas une représentation fiable de ce qui se passe réellement. Celui qui veut savoir ce qui se joue doit le demander — pas comme un contrôle, mais comme un inventaire.

Ce que demander signifie, et ce que cela ne signifie pas

La différence entre une organisation qui obtient une vue d'ensemble et une organisation qui n'en obtient pas réside dans la manière de poser la question. Celui qui demande avec la menace de sanctions en arrière-plan n'obtient pas de réponse — ou une réponse qui n'est pas correcte. Celui qui demande sans qu'il y ait de compte à rendre, avec le message qu'il s'agit d'obtenir une vue d'ensemble et non de punir, obtient des informations honnêtes.

Cette vue d'ensemble doit atterrir quelque part. Pas dans une liste qui est obsolète après un mois, mais dans une structure qui consigne ce qui fonctionne, qui l'utilise, quelles données y entrent, et quel risque y correspond. Comment construire un inventaire IA décrit comment cet inventaire se déroule sans chasse aux sorcières : comme un processus continu, pas comme une action ponctuelle qu'on oublie ensuite.

Chaque application qui remonte à la surface doit être accompagnée d'un ensemble fixe d'informations : ce qu'elle fait, qui l'utilise, quelles données y entrent, et sur la base de quel accord cela se fait. Sans cette consignation, une fenêtre de chat reste un pari plutôt qu'un choix évalué. Ce que vous devez consigner par application décrit cet ensemble fixe, que l'application soit une fenêtre gratuite, un abonnement payant, ou un outil arrivé via un fournisseur. Un fournisseur peut d'ailleurs lui-même être à l'origine de la situation : un fournisseur qui a intégré l'IA dans son produit change la nature d'un contrat existant sans qu'il y ait toujours un nouvel accord en contrepartie.

Ce qu'une organisation peut en faire

Une fenêtre de chat gratuite n'est pas par définition un problème. C'est un signal : il y a une tâche que quelqu'un voulait accomplir plus vite, et l'offre existante n'y répondait pas. La question n'est pas seulement de savoir si l'usage s'arrête, mais si l'organisation propose une alternative qui s'inscrit bien dans les accords établis — et si elle sait quelles données ont déjà été traitées via un canal sur lequel elle n'avait aucun contrôle.

Ces deux questions ensemble — ce qui fonctionne, et ce qui pourrait le remplacer — mènent presque naturellement à une troisième question : quelle part du travail qui passe actuellement par une fenêtre de chat isolée est en réalité une tâche qui peut être reprise par l'IA de manière évaluée. C'est précisément à cela que sert le scan de travail de FTE TO AI : il calcule, par tâche, quelle part du travail peut être reprise par l'IA, de sorte que la réponse à une fenêtre de chat gratuite ne soit pas seulement une interdiction, mais aussi une perspective sur ce qui est possible.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.