Een model dat u inkoopt en ongewijzigd gebruikt, is een andere situatie dan een model dat u finetunet, hertraint op eigen data, of samenvoegt met andere systemen. De vraag die daarbij hoort, is niet of dat mag, maar wat het verandert aan uw rol. Deze pagina beschrijft waar die indeling van afhangt. De actuele regelinhoud staat elders; hier gaat het om het mechanisme dat bepaalt wanneer iets verandert en wat u daar intern mee doet.
Of aanpassing van een model uw rol wijzigt, hangt af van een aantal factoren die u per situatie moet vaststellen, niet van een vaste grens die voor elk model gelijk is.
Deze factoren werken samen. Geen van deze punten is op zichzelf beslissend; de combinatie bepaalt of de aanpassing uw positie wijzigt.
Als de aanpassing zwaar genoeg is, verandert doorgaans niet alleen de kwalificatie van het model maar ook wat er van de organisatie wordt verwacht: andere documentatie, andere interne verantwoordelijkheid, mogelijk een andere partij die op het geheel aanspreekbaar is. Dat mechanisme, en het onderscheid tussen een partij die een model alleen gebruikt en een partij die het model mede vormgeeft, staat uitgewerkt op de pagina die het onderscheid tussen aanbieder en gebruiker beschrijft. Wanneer een aanpassing precies zwaar genoeg is om die rol te doen kantelen, is een vraag die per systeem apart beantwoord moet worden; het algemene mechanisme daarachter staat op de pagina over het moment waarop uw rol wijzigt.
De consequenties van die kanteling hangen op hun beurt weer af van het risiconiveau dat het aangepaste model krijgt. Een aangepast model dat in een hoog-risicocategorie valt, brengt andere verplichtingen mee dan een aangepast model dat daarbuiten blijft. Wat een hoog risiconiveau in de praktijk betekent voor interne processen en toezicht, staat beschreven op de pagina over de gevolgen van een hoog risiconiveau voor uw organisatie. Andersom is het ook mogelijk dat een aanpassing een systeem juist buiten de zwaarste categorie houdt, of dat het toepassingsgebied simpelweg niet onder de regeling valt; welke toepassingen buiten scope vallen en waarom, staat op de pagina over toepassingen die buiten scope vallen.
Aanpassingen aan modellen gebeuren vaak dicht bij het werk: een team dat een extern model finetunet op eigen documenten, een ontwikkelaar die twee systemen aan elkaar koppelt, een afdeling die een chatbot voedt met interne kennisbanken. Dat zijn precies de aanpassingen die niet via een centraal aanschaftraject lopen en dus niet automatisch op een IT-lijst staan. Wie wil weten of, en waar, dit binnen de organisatie gebeurt, moet het vragen — en dat werkt alleen als de vraag niet gekoppeld is aan een afrekening. Een team dat een model heeft aangepast zonder daar toestemming voor te vragen, meldt dat niet als het antwoord een sanctie oplevert.
Omdat de indeling van aanpassingen niet vast staat maar per situatie wordt vastgesteld, is het niet genoeg om één keer te bepalen welke rol een model heeft. Aanpassingen die na de eerste beoordeling plaatsvinden, moeten opnieuw langs dezelfde vragen. Een beleid dat dit ondersteunt, moet in gewone taal beschrijven wanneer een aanpassing gemeld moet worden en aan wie; hoe zo'n beleid leesbaar blijft in plaats van een tekst die niemand raadpleegt, staat op de pagina over een AI-beleid dat daadwerkelijk gelezen wordt. Daarnaast is het van belang dat beslissingen over aanpassingen — wie akkoord gaf, op basis van welke afweging, met welk risiconiveau als uitkomst — worden vastgelegd op een plek waar ze terug te vinden zijn. Hoe zo'n vastlegging eruitziet in de praktijk, staat op de pagina over een oversight-besluitenlijst.
De indeling van een aangepast model bepaalt welke verplichtingen gelden, maar zegt niets over wat het model in de praktijk doet met het werk zelf. Voor die vraag — welk deel van een taak door AI wordt overgenomen, welk deel bij een medewerker blijft, en wat een aanpassing daarin verschuift — is een andere blik nodig dan een risicobeoordeling. De werkscan van FTE TO AI rekent per taak uit welk deel van het werk door AI over te nemen is, los van de vraag welke governanceregels op het model van toepassing zijn.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.