Acheter un système d'IA et l'utiliser tel qu'il est livré est une situation différente d'adapter un modèle à ses propres données ou à son propre objectif. Cette adaptation peut modifier la qualification de votre organisation — et donc les questions à laquelle vous devez pouvoir répondre. Que cela se produise, et le poids que cela représente, dépend de ce qui est précisément modifié et de l'usage auquel le système est destiné.
La qualification ne dépend pas de la question de savoir si vous avez écrit le code source. Elle dépend de ce qui se passe concrètement avec un modèle une fois qu'il arrive chez vous. Quelques facteurs entrent en jeu :
Ces facteurs interagissent entre eux. Il n'existe pas de seuil fixe qui s'applique dans tous les cas ; la réglementation en vigueur, avec les critères précis, se trouve ailleurs, et ce texte peut évoluer. Ce qui reste valable sur cette page, c'est le mécanisme : adapter peut changer de rôle, et le rôle détermine l'obligation.
Le rôle qu'occupe votre organisation à l'égard d'un système d'IA n'est pas fixe. Qui se limite à utiliser un modèle tel qu'il est livré occupe généralement une position différente de qui modifie le modèle et le met ensuite lui-même sur le marché ou le déploie à grande échelle en interne. La question de savoir quand cette transition a lieu, et ce qui change à ce moment-là dans ce que vous devez pouvoir démontrer, est traitée sur quand votre rôle change et où se situe cette limite. Pour les organisations qui se demandent si elles sont fournisseur ou utilisateur — une question qui se pose plus souvent qu'on ne le pense dès qu'une adaptation a lieu en interne — une explication distincte se trouve sur la distinction entre fournisseur et utilisateur d'un système d'IA.
La raison pour laquelle cela importe n'est pas formelle. Un changement de rôle modifie ce que vous devez pouvoir montrer : quelle documentation vous conservez, qui au sein de l'organisation est responsable du contrôle, et quelles étapes ont été franchies avant la mise en service du système adapté. Un modèle que vous avez vous-même adapté est un modèle pour lequel on peut vous demander de justifier comment cette adaptation a été réalisée.
L'adaptation peut également influencer le niveau de risque d'une application. Un modèle initialement destiné à une application légère peut, par le biais d'une adaptation, se retrouver dans une catégorie plus lourde — par exemple lorsqu'il est utilisé, après adaptation, pour des décisions concernant des personnes. Ce que signifie concrètement un niveau de risque élevé pour les obligations de votre organisation figure sur ce que signifie un niveau de risque élevé pour les exigences imposées à votre organisation. Ici aussi : la qualification découle de l'usage, pas de l'intention avec laquelle le modèle a été construit à l'origine.
Cela touche directement au cœur de l'IA fantôme (shadow AI). Une adaptation qui ne passe pas par l'IT — une équipe qui réentraîne elle-même un modèle sur son propre jeu de données, ou un service qui connecte un modèle externe à des systèmes internes sans que cela n'ait été signalé — modifie la qualification de votre organisation sans que la direction en ait connaissance. La liste de l'IT ne fait pas apparaître cette adaptation. Qui veut savoir si cela se produit doit se renseigner auprès des équipes qui y travaillent quotidiennement, et cette conversation ne donne des résultats que si elle se déroule sans sanction.
Lorsqu'une adaptation modifie le rôle ou le niveau de risque d'une application, plusieurs éléments changent en même temps : la documentation à conserver, la question de savoir qui, au sein de l'organisation, est propriétaire de cette application, et le moment où quelque chose peut encore être planifié par rapport à ce qui requiert déjà de l'attention. Cette distinction — entre ce qui est déjà urgent maintenant et ce qui peut être planifié — est liée à des facteurs expliqués sur ce qui requiert déjà de l'attention maintenant et ce qui peut encore être planifié. Une explication plus approfondie de la question de qualification elle-même, y compris les cas limites les plus fréquents en pratique, se trouve sur l'explication complète de ce qui change lors de l'adaptation d'un modèle.
Un modèle adapté est en pratique souvent aussi un modèle qui reprend une partie du travail auparavant entièrement effectué par des personnes. Que ce soit le cas, et quelle part du travail est concernée, est une question distincte de celle de la qualification, mais qui en découle souvent : dès qu'il est clair qu'un modèle a été adapté et à quoi il est destiné, la part de la tâche qu'il exécute réellement devient également visible. Le scan de travail de FTE TO AI calcule cela par tâche et montre quelle part du travail peut être reprise par l'IA, indépendamment de la manière dont le modèle sous-jacent a été construit.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.