Un modèle que vous achetez et utilisez sans modification est une situation différente d'un modèle que vous finetunez, réentraînez sur vos propres données, ou combinez avec d'autres systèmes. La question qui se pose n'est pas de savoir si cela est autorisé, mais ce que cela change à votre rôle. Cette page décrit de quoi dépend cette classification. Le contenu réglementaire actuel se trouve ailleurs ; il s'agit ici du mécanisme qui déterminine quand quelque chose change et ce que vous en faites en interne.
Le fait que l'adaptation d'un modèle modifie votre rôle dépend d'un certain nombre de facteurs que vous devez établir au cas par cas, et non d'une limite fixe identique pour chaque modèle.
Ces facteurs agissent ensemble. Aucun de ces points n'est décisif en soi ; c'est la combinaison qui déterminine si l'adaptation modifie votre position.
Si l'adaptation est suffisamment importante, ce n'est généralement pas seulement la qualification du modèle qui change, mais aussi ce qui est attendu de l'organisation : une documentation différente, une responsabilité interne différente, éventuellement une autre partie responsable de l'ensemble. Ce mécanisme, ainsi que la distinction entre une partie qui ne fait qu'utiliser un modèle et une partie qui contribue à sa conception, est détaillé sur la page qui décrit la distinction entre fournisseur et utilisateur. Le moment précis où une adaptation est suffisamment importante pour faire basculer ce rôle est une question à laquelle il faut répondre séparément pour chaque système ; le mécanisme général qui sous-tend cela se trouve sur la page sur le moment où votre rôle change.
Les conséquences de ce basculement dépendent à leur tour du niveau de risque attribué au modèle adapté. Un modèle adapté relevant d'une catégorie à haut risque entraîne des obligations différentes d'un modèle adapté qui reste hors de cette catégorie. Ce que signifie concrètement un niveau de risque élevé pour les processus internes et la surveillance est décrit sur la page sur les conséquences d'un niveau de risque élevé pour votre organisation. Inversement, il est également possible qu'une adaptation maintienne justement un système hors de la catégorie la plus lourde, ou que le domaine d'application ne relève simplement pas de la réglementation ; les applications qui se situent hors du champ d'application et pourquoi figurent sur la page sur les applications hors champ d'application.
Les adaptations de modèles se produisent souvent près du terrain : une équipe qui finetune un modèle externe sur ses propres documents, un développeur qui relie deux systèmes entre eux, un service qui alimente un chatbot avec des bases de connaissances internes. Ce sont précisément les adaptations qui ne passent pas par un processus d'achat centralisé et qui, par conséquent, ne figurent pas automatiquement sur une liste informatique. Qui veut savoir si, et où, cela se produit au sein de l'organisation doit le demander — et cela ne fonctionne que si la question n'est pas liée à des comptes à rendre. Une équipe qui a adapté un modèle sans en demander l'autorisation ne le signale pas si la réponse entraîne une sanction.
Comme la classification des adaptations n'est pas fixe mais établie au cas par cas, il ne suffit pas de déterminer une seule fois quel rôle a un modèle. Les adaptations qui interviennent après la première évaluation doivent à nouveau passer par les mêmes questions. Une politique qui soutient cela doit décrire en langage courant quand une adaptation doit être signalée et à qui ; la manière dont une telle politique reste lisible plutôt que de devenir un texte que personne ne consulte est décrite sur la page sur une politique d'IA qui est effectivement lue. Par ailleurs, il est important que les décisions relatives aux adaptations — qui a donné son accord, sur la base de quelle évaluation, avec quel niveau de risque comme résultat — soient consignées à un endroit où elles peuvent être retrouvées. À quoi ressemble une telle consignation en pratique est décrit sur la page sur un registre de décisions de supervision.
La classification d'un modèle adapté déterminine quelles obligations s'appliquent, mais ne dit rien sur ce que le modèle fait concrètement avec le travail lui-même. Pour cette question — quelle part d'une tâche est reprise par l'IA, quelle part reste chez un collaborateur, et ce qu'une adaptation y déplace — un regard différent d'une évaluation des risques est nécessaire. Le scan de travail de FTE TO AI calcule, par tâche, quelle part du travail peut être reprise par l'IA, indépendamment de la question de savoir quelles règles de gouvernance s'appliquent au modèle.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.