La question de savoir quelles applications sont hors champ ressemble à une demande de liste. Ce n'en est pas une. Le fait qu'une application soit dans ou hors champ est un classement qui dépend de ce que fait une application, dans quel contexte, et pour qui. La même technologie peut, dans une application, rester en arrière-plan et, dans une autre, faire l'objet d'une attention totale. Il n'existe donc pas de liste fixe d'applications exclues — mais bien un certain nombre de facteurs qui déterminent ce classement.
Le premier facteur est la fonction de l'application : ce que le système décide ou conseille, et pour qui cela a des conséquences. Un outil qui réécrit du texte interne se situe différemment d'un outil qui participe à la décision sur une demande, une candidature ou une réclamation. Le deuxième facteur est le niveau de risque lié à cette fonction : plus les conséquences pour les personnes sont importantes, plus une application tend à se déplacer vers la partie la plus lourde du spectre. Le troisième facteur est le rôle de l'organisation elle-même : celui qui se contente d'utiliser un système est évalué différemment de celui qui l'adapte, le réentraîne ou l'assemble à partir d'éléments provenant d'autres parties. Ce que cette répartition des rôles implique précisément et le moment où elle évolue sont décrits sur les pages consacrées à la distinction entre fournisseur et utilisateur d'un système d'IA et au moment où un rôle d'utilisateur bascule vers une autre responsabilité.
Un quatrième facteur est de nature technique, mais juridiquement pertinent : ce qu'une organisation modifie elle-même dans un modèle existant change parfois la position de cette organisation dans l'ensemble. Un modèle acheté sans modification se situe différemment dans le tableau qu'un modèle réajusté (finetuning) sur des données propres ou intégré dans un processus propre. Cette limite — le moment où une adaptation entraîne un changement de rôle — est traitée sur la page consacrée à ce qui change lorsqu'un modèle est adapté soi-même.
Comme le classement dépend de ces facteurs, le champ d'application n'est pas une caractéristique figée d'un outil mais un résultat susceptible d'évoluer. Un chatbot qui a commencé comme aide à la rédaction interne peut, dès qu'il répond aussi à des questions de clients menant à une décision, se retrouver dans une autre partie du spectre. Un modèle acheté comme produit prêt à l'emploi peut, après adaptation sur des données propres, entraîner un autre rôle pour l'organisation. Une application considérée aujourd'hui comme à faible impact peut peser davantage demain parce que le contexte dans lequel elle est déployée a changé — une autre équipe, une autre décision, un autre groupe de personnes concerné par le résultat.
C'est précisément pour cette raison qu'un classement ponctuel ne suffit pas. Une classification établie au moment de l'introduction ne dit rien de ce que fait un outil un an plus tard. Ce qui doit aujourd'hui entrer dans le champ d'application et ce qui peut être planifié pour plus tard est donc lui-même une question qui dépend de la situation actuelle — développée sur la page consacrée à l'ordre entre ce qui requiert l'attention maintenant et ce qui peut suivre plus tard.
Le classement dans ou hors champ se complique en raison d'un problème pratique : la liste officielle des outils achetés ou approuvés n'est pas la même que la liste des outils réellement utilisés. Les équipes adoptent des fonctionnalités d'IA sans passer par un processus de demande — non par mauvaise volonté, mais parce que c'est facilement accessible et que cela résout un problème. Cette IA fantôme (« shadow AI ») est précisément la part qui rend impossible tout classement dans ou hors champ, tant que personne ne sait que l'application existe.
Qui souhaite compléter ce tableau doit poser la question — et cela sans que la question ne soit perçue comme un reproche déguisé. Dès qu'un collaborateur soupçonne qu'une réponse honnête entraînera une sanction, la réponse reste absente et l'outil reste sous le radar. Un inventaire construit sur la base de sanctions donne donc par définition une image incomplète — et une image incomplète rend tout classement dans le champ d'application provisoire.
Comme le champ d'application peut évoluer, consigner le classement est au moins aussi important que le classement lui-même. Qui a décidé qu'une application était hors champ, sur la base de quelles informations, et à quel moment — ce type de questions devient sans réponse dès que la consignation manque. La façon dont une organisation rend ce type de décision organisable et traçable est décrite sur la page consacrée à une liste de décisions qui rend les décisions de supervision traçables, et la façon dont ce classement se retrouve de manière reconnaissable dans le document que les collaborateurs consultent réellement, sur la page consacrée à une politique IA qui correspond à ce que les gens font réellement.
La question du classement — ce qui est dans le champ d'application et ce qui ne l'est pas — porte sur le risque et la responsabilité, pas sur ce qu'une application représente pour le travail lui-même. Cette seconde question, ce qu'une tâche peut précisément confier à l'IA, relève d'un calcul distinct. Le scan de poste de FTE TO AI calcule, tâche par tâche, quelle part du travail peut être reprise, indépendamment de la question de savoir comment cette application se situe dans le classement de gouvernance.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.