Une équipe veut travailler plus vite et active un outil d'IA, généralement pour tester quelque chose de concret : un résumé, un premier concept, une classification. Il n'y a pas de procédure d'approbation parce que ce n'est "encore qu'un essai". L'essai fonctionne, ou fonctionne suffisamment bien, et disparaît dans le processus quotidien sans qu'une décision n'ait jamais été prise de le conserver. Il n'y a jamais eu de moment où quelqu'un a choisi délibérément : nous intégrons cela dans notre inventaire d'IA, voici qui en est responsable, ceci relève de ce niveau de risque. Il n'y a eu qu'un moment de démarrage, et ce moment s'inscrit dans une façon de travailler que plus personne n'a jamais touchée.
Arrêter un dispositif pilote demande une décision. Continuer ne demande rien. Tant que personne ne signale un incident ou qu'une partie externe ne demande une preuve de contrôle, il n'y a aucune raison de revenir sur quelque chose qui est déjà devenu simplement du travail courant. Les personnes qui utilisent l'outil n'ont aucun intérêt à attirer l'attention là-dessus : cela fonctionne, cela fait gagner du temps, et le signaler donne l'impression de risquer qu'on le leur retire. Ainsi, une solution temporaire reste structurelle, non pas parce que personne ne le sait, mais parce que personne ne pose la question qui conduirait à sa désactivation.
Il est tentant de penser qu'un aperçu des logiciels approuvés rend cela visible. Cet aperçu montre ce qui a été acheté, pas ce qui est utilisé. Un dispositif pilote passe souvent par un autre canal : un compte gratuit, une extension de navigateur, un abonnement isolé sur une carte d'équipe. Le même schéma se retrouve avec une extension de navigateur ayant accès à votre messagerie, avec un service disposant de son propre abonnement en dehors des achats centralisés, et avec des données d'entreprise collées dans une fenêtre de chat gratuite sans qu'aucun contrat avec des clauses de sous-traitance n'existe derrière. Aucune de ces situations ne figure sur une liste informatique, car aucune n'a jamais été déclarée comme projet.
La seule façon de savoir ce qui fonctionne réellement, c'est de poser la question. Pas comme un contrôle rétrospectif, mais comme une ouverture : qu'utilisez-vous, pour quoi, et depuis quand. Celui qui pose cette question avec la menace de sanctions en arrière-plan n'obtiendra aucune réponse, ou une réponse incomplète. Les collaborateurs qui utilisent un outil que personne n'a approuvé ont quelque chose à perdre en étant honnêtes et rien à y gagner. C'est précisément la tension abordée dans les collaborateurs qui utilisent un outil que personne n'a approuvé : sans une invitation à laquelle il est sûr de répondre, le dispositif pilote reste souterrain, et il ne disparaît pas, il devient simplement plus silencieux.
Un inventaire sans conséquences pour celui qui signale est la première étape, pas la conclusion. Après avoir rendu les choses visibles vient la classification : qu'est-ce que c'est, quel rôle cela joue-t-il dans un processus, et quel niveau de risque cela implique-t-il. Un outil de résumé pour des notes internes demande un régime différent d'un outil qui participe à une décision d'acceptation de client ou d'évaluation du personnel. Cette classification doit s'articuler avec la structure de risque déjà existante, et non avec un nouveau cadre parallèle. Un second processus informel ignoré à côté du processus existant est précisément la raison pour laquelle un second processus à côté de l'existant est ignoré constitue un schéma reconnaissable : les gens suivent le chemin qui offre le moins de résistance, et ce chemin ne devient visible que lorsque quelqu'un s'en enquiert.
Vient ensuite la question de savoir qui continue à surveiller. Un dispositif pilote qui s'est intégré dans le travail quotidien n'a généralement plus de propriétaire évaluant les résultats avant leur utilisation. C'est là que ce que signifie le contrôle humain en pratique devient pertinent : non pas comme principe abstrait, mais comme question concrète de savoir qui lit le résultat avant qu'il n'affecte un client, un dossier ou une décision.
Un dirigeant interrogé sur ce sujet — par un régulateur, un auditeur, un conseil de surveillance — a deux options : dire que l'inventaire est complet, ou dire que le processus existe pour le rendre et le maintenir complet. La seconde option est plus honnête et, à plus long terme, plus solide, car une organisation qui inventorie activement dispose de quelque chose de démontrable, même lorsque l'inventaire n'est pas encore terminé. Il ne s'agit pas de garantir qu'aucun dispositif pilote non autorisé ne verra plus jamais le jour. Il s'agit de disposer d'un mécanisme qui les détecte avant qu'un incident ne le fasse à votre place.
Une fois qu'il devient visible quelle IA est apparue de manière non planifiée, une autre question surgit souvent : si cette équipe faisait déjà cela sans que personne ne l'organise, que se passerait-il si nous l'organisions réellement ? C'est une question différente de la gouvernance, et elle relève du scan de travail de FTE TO AI, qui calcule tâche par tâche quelle part du travail peut raisonnablement être reprise par l'IA. Là où cette page décrit comment reprendre le contrôle sur ce qui fonctionne déjà, ce scan décrit, avec le même regard pragmatique sur les tâches et les risques, ce qui peut encore être construit.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.