Le commerce de détail est un secteur où l'IA s'installe à deux niveaux simultanément. D'un côté, il y a les grands systèmes visibles : prévisions de stock, optimisation des prix, moteurs de recommandation sur la boutique en ligne, chatbots dans le service client. Ceux-ci sont généralement connus des services informatiques et des achats, car ils ont été acquis et mis en œuvre quelque part. De l'autre côté, il y a un paysage beaucoup plus diffus : des collaborateurs individuels sur le lieu de vente, au marketing ou aux achats, qui utilisent un outil d'IA pour rédiger des descriptions de produits, répondre aux questions des clients, générer des images de campagne ou récupérer les prix des concurrents. Cette deuxième couche est généralement plus importante que la première, tout simplement parce que le seuil pour essayer un outil gratuit ou peu coûteux est bas et que l'effet est immédiatement perceptible : un texte publicitaire plus rapide, une réponse plus rapide à une réclamation.
À cela s'ajoute le fait que le commerce de détail travaille souvent avec de nombreux collaborateurs temporaires et flexibles, répartis sur plusieurs points de vente ou canaux. Cela complique la tâche d'avoir une vue d'ensemble centrale de qui utilise quels outils, et pourquoi. Un siège social peut avoir une politique claire pour les systèmes qu'il a lui-même acquis, tandis qu'au niveau d'un point de vente ou au sein d'une équipe e-commerce, des applications d'IA apparaissent sans être enregistrées nulle part. Le rapport entre ce qui est approuvé de manière centralisée et ce qui a émergé localement est généralement déséquilibré dans ce secteur : le nombre de systèmes officiellement acquis est limité, tandis que le nombre d'applications individuelles que les collaborateurs ont commencé à utiliser eux-mêmes est généralement bien plus élevé.
Le terme IA fantôme sonne technique, mais dans le commerce de détail, il est très concret : c'est l'outil qu'un collaborateur marketing utilise pour générer des publications sur les réseaux sociaux, le chatbot qu'une équipe de service client a configuré elle-même, ou le modèle d'IA utilisé pour analyser les avis clients sans que cela n'ait jamais été examiné par le service informatique ou juridique. Cela se produit rarement par négligence. Cela se produit parce que les outils sont accessibles, parce que la pression sur la rapidité est élevée, et parce que personne n'a explicitement dit que c'était interdit.
La liste des logiciels approuvés par le service informatique ne donne donc qu'une image incomplète. Qui veut une vue d'ensemble complète doit le demander aux personnes elles-mêmes. Cela ne fonctionne que si cette question est posée sans conséquences. Dès que les collaborateurs suspectent que signaler l'utilisation de l'IA entraînera une correction ou une interdiction, l'information disparaît à nouveau de la vue et l'usage se déplace vers des appareils privés ou des comptes personnels. Un inventaire qui commence par exclure toute sanction donne un tout autre type de réponse qu'un audit qui commence par la recherche d'infractions.
Un outil d'IA qui reformule des descriptions de produits a un impact différent d'un système qui ajuste automatiquement les prix en fonction de la demande et de la concurrence, ou d'un outil qui utilise les données clients pour faire des recommandations. Dans le commerce de détail, la classification par rôle et niveau de risque est donc importante : s'agit-il d'un outil d'assistance, d'un système qui prépare des décisions, ou d'un système qui prend de manière autonome des décisions ayant un impact direct sur les clients, comme la tarification dynamique ou le refus automatisé de retours ? Cette classification détermine quel niveau de supervision et de documentation est pertinent, et quels systèmes nécessitent l'attention de la direction ou de la gestion des risques, et lesquels peuvent être traités au sein d'une équipe.
Les organisations du commerce de détail disposent généralement déjà de structures de gestion des risques pour des sujets tels que la sécurité des produits, la législation sur la vie privée concernant les données clients, ou le contrôle financier de la tarification. La gouvernance de l'IA n'a pas besoin d'être un processus nouveau et distinct de ces structures. Cela fonctionne mieux lorsque l'inventaire de l'utilisation de l'IA est rattaché aux catégories de risque existantes, de sorte qu'un système qui traite des données clients soit évalué via le même canal que les autres processus sensibles en matière de vie privée, et qu'un algorithme de tarification suive la même filière que les autres décisions commercialement sensibles. La réglementation actuelle sur les systèmes d'IA évolue ; les obligations et délais précis sont décrits ailleurs. Ce qui compte ici, c'est le mécanisme : savoir ce qui fonctionne, savoir qui l'utilise, et savoir à quel point c'est risqué avant qu'il n'y ait une raison externe de le découvrir.
Les défis diffèrent selon le secteur, même si le mécanisme sous-jacent est comparable. Qui souhaite comparer la manière dont cela se manifeste dans un secteur avec beaucoup de contact client et de travail flexible trouvera cela dans la description de la gouvernance de l'IA dans l'hôtellerie-restauration, tandis qu'un secteur avec de fortes dépendances de chaîne et des processus physiques est traité dans l'analyse de la gouvernance de l'IA dans le secteur agricole. Pour les organisations qui développent ou achètent elles-mêmes beaucoup de logiciels, l'aperçu de la gouvernance de l'IA dans le secteur informatique est pertinent, et qui traite avec des données clients fortement réglementées peut établir la comparaison avec la gouvernance de l'IA dans les services financiers.
Un inventaire de l'utilisation de l'IA montre ce qui fonctionne et qui l'utilise, mais ne répond pas encore à la question de ce que cela signifie pour l'organisation du travail lui-même. Dans le commerce de détail, où les tâches sont souvent routinières et bien délimitées — de la réponse aux questions des clients à la rédaction de textes produits — cette question ultérieure est bien réelle. Le scan de travail de FTE TO AI calcule, pour chaque tâche, quelle part du travail peut être reprise par l'IA, sur la base des tâches telles qu'elles sont effectivement exécutées. Là où le Responsible AI Scan cartographie ce qui se passe et sous quel niveau de risque cela relève, le scan de travail offre la perspective de l'organisation du travail : quelles tâches se prêtent à une reprise, et dans quelle mesure.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.