Een AI-systeem inkopen en het gebruiken zoals het wordt geleverd, is een andere situatie dan een model aanpassen aan uw eigen data of doel. Die aanpassing kan de indeling van uw organisatie veranderen — en daarmee de vragen die u moet kunnen beantwoorden. Of dat gebeurt, en hoe zwaar dat weegt, hangt af van wat er precies wordt aangepast en waarvoor het systeem wordt ingezet.
De indeling hangt niet af van de vraag of u de broncode heeft geschreven. Ze hangt af van wat er feitelijk gebeurt met een model nadat het bij u binnenkomt. Een paar factoren die meespelen:
Deze factoren werken samen. Er is geen vaste drempel die in alle gevallen geldt; de actuele regelgeving met de precieze criteria staat elders, en die tekst kan wijzigen. Wat op deze pagina blijft staan, is het mechanisme: aanpassen kan van rol veranderen, en rol bepaalt verplichting.
De rol die uw organisatie inneemt bij een AI-systeem is niet vast. Wie een model alleen gebruikt zoals geleverd, heeft doorgaans een andere positie dan wie het model wijzigt en vervolgens zelf in de markt brengt of intern op grote schaal inzet. De vraag wanneer die overgang plaatsvindt, en wat er op dat moment verandert in wat u moet kunnen aantonen, wordt behandeld op wanneer uw rol verandert en waar die grens ligt. Voor organisaties die twijfelen of ze aanbieder of gebruiker zijn — een vraag die vaker voorkomt dan gedacht zodra er intern wordt aangepast — is er een aparte uitleg op het onderscheid tussen aanbieder en gebruiker van een AI-systeem.
De reden dat dit ertoe doet, is niet formeel. Een verandering van rol verandert wat u moet kunnen laten zien: welke documentatie u bijhoudt, wie binnen de organisatie verantwoordelijk is voor het toezicht, en welke stappen zijn genomen voordat het aangepaste systeem in gebruik ging. Een model dat u zelf heeft aangepast, is een model waarvan u zelf kunt worden gevraagd te verantwoorden hoe die aanpassing tot stand kwam.
Aanpassing kan ook het risiconiveau van een toepassing beïnvloeden. Een model dat oorspronkelijk voor een lichte toepassing was bedoeld, kan door aanpassing terechtkomen in een zwaardere categorie — bijvoorbeeld wanneer het na aanpassing wordt ingezet voor beslissingen over mensen. Wat een hoog risiconiveau concreet betekent voor de verplichtingen van uw organisatie, staat op wat een hoog risiconiveau betekent voor de eisen aan uw organisatie. Ook hier geldt: de indeling volgt uit het gebruik, niet uit de intentie waarmee het model ooit werd gebouwd.
Dit raakt direct aan de kern van schaduw-AI. Een aanpassing die niet via IT loopt — een team dat een model zelf finetunet op een eigen dataset, of een afdeling die een extern model koppelt aan interne systemen zonder dat daarover is gerapporteerd — verandert de indeling van uw organisatie zonder dat het bestuur daarvan op de hoogte is. De IT-lijst laat die aanpassing niet zien. Wie wil weten of dit gebeurt, moet het navragen bij de teams die er dagelijks mee werken, en dat gesprek levert alleen iets op als het zonder afrekening wordt gevoerd.
Wanneer een aanpassing de rol of het risiconiveau van een toepassing wijzigt, verandert een aantal dingen tegelijk: de documentatie die moet worden bijgehouden, de vraag wie binnen de organisatie eigenaar is van die toepassing, en het moment waarop iets nog gepland kan worden versus wat al aandacht vraagt. Dat onderscheid — tussen wat nu al urgent is en wat op de planning kan — hangt samen met factoren die op wat er nu al aandacht vraagt en wat nog gepland kan worden worden toegelicht. Een uitgebreidere uitwerking van de indelingsvraag zelf, inclusief de grensgevallen die in de praktijk het meest voorkomen, staat op de volledige uitleg over wat er verandert bij het aanpassen van een model.
Een aangepast model is in de praktijk vaak ook een model dat een deel van het werk overneemt van mensen die eerder een taak volledig zelf deden. Of dat zo is, en hoeveel van het werk het betreft, is een vraag die los staat van de indelingsvraag maar er vaak wel op volgt: zodra duidelijk is dat een model is aangepast en waarvoor het wordt ingezet, wordt ook zichtbaar welk deel van een taak het feitelijk uitvoert. De werkscan van FTE TO AI rekent dat per taak uit en laat zien welk deel van het werk door AI is over te nemen, los van de vraag hoe het onderliggende model tot stand kwam.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.