Een leverancier voegt een functie toe die onder de motorkap draait op een taalmodel of een derde-partij-API. Voor de leverancier is het een productupdate, geen gebeurtenis die melding verdient. De release notes vermelden een nieuwe knop, niet de technologie erachter. Uw organisatie gebruikt de software al, het contract is getekend op basis van de oude functionaliteit, en de wijziging komt niet via inkoop of security binnen — die zien alleen wat er bij nieuwe aanschaf gebeurt, niet wat een bestaand product er stilletjes bij krijgt.
Het patroon is hetzelfde als bij een browserextensie met toegang tot uw mail: de toegang en de functie bestaan al voordat iemand ze heeft beoordeeld. Bij een leverancier is de afstand alleen groter — u kunt niet in de broncode kijken en moet vertrouwen op wat de leverancier zegt, of niet zegt.
Er is geen moment waarop dit zich meldt. Een medewerker gebruikt de nieuwe functie omdat die handig is, niet omdat hij een AI-component herkent. De leverancier heeft geen prikkel om dit actief te melden zolang niemand ernaar vraagt: het levert geen omzet op en kan wel vragen opleveren. En de kans dat u het zelf tegenkomt is klein, tenzij er een incident is of een periodieke controle het opmerkt.
Daarmee lijkt dit op een interne pilot die is blijven hangen: net als bij een proefopstelling die nooit is uitgezet ontbreekt het niet aan kwaadwillendheid, maar aan een moment waarop iemand de vraag stelt. Bij een leverancier komt daar nog bij dat u afhankelijk bent van diens bereidheid om te antwoorden.
Het uitgangspunt is niet het contract juridisch afdwingen bij de eerste twijfel, maar eerst weten wat er speelt. Dat begint met vragen stellen aan de leverancier: welke onderdelen van het product gebruiken AI, welke data gaat daarheen, en is dat gewijzigd sinds het contract is getekend. Leveranciers die zonder consequenties kunnen antwoorden, doen dat eerder waarheidsgetrouw dan leveranciers die vermoeden dat een eerlijk antwoord het contract in gevaar brengt.
Dezelfde logica geldt binnen de organisatie: medewerkers die een tool gebruiken waarvan niemand weet dat hij AI bevat, melden dat pas als melden geen straf oplevert. Hoe u dat organiseert staat beschreven bij medewerkers die een tool gebruiken die niemand heeft goedgekeurd. Voor een leverancier werkt het principe hetzelfde: een vraag zonder verdachtmaking krijgt een ander antwoord dan een vraag die als opmaat naar sancties wordt gelezen.
Zodra duidelijk is wat de leverancier heeft toegevoegd, is de vervolgvraag niet juridisch maar functioneel: welke rol speelt dit AI-onderdeel in het proces, wat is het risiconiveau, en wat moet daarover zijn vastgelegd. Diezelfde vragen stelt u aan elke AI-toepassing die u zelf inzet, of die nu via een leverancier binnenkomt of via een medewerker die een gratis tool gebruikt — zie ook bedrijfsdata die in een gratis chatvenster terechtkomt. Wat u per toepassing vastlegt, hangt af van wat die toepassing doet en met welke gegevens, niet van waar die toepassing vandaan komt. Een overzicht van wat daarbij relevant is, staat op wat u per toepassing moet vastleggen.
Een leverancier die AI toevoegt zonder melding, hoort dus niet apart behandeld te worden als incident, maar meegenomen te worden in de inventaris die u al voor de rest van de organisatie opbouwt. Hoe die inventaris in de praktijk wordt opgebouwd — inclusief hoe u leveranciers daarin een plek geeft — staat beschreven op hoe u een AI-inventaris opbouwt.
Dit is geen aanleiding voor een juridisch offensief tegen elke leverancier die iets niet heeft gemeld. Contractbreuk vaststellen is een andere vraag dan risico vaststellen, en die twee lopen niet automatisch samen: een leverancier kan iets hebben nagelaten te melden zonder dat de toepassing een hoog risico met zich meebrengt, en omgekeerd. De eerste stap is het risico beoordelen, niet de schuldvraag. Wie met sancties begint, krijgt van leveranciers voortaan minder informatie, niet meer.
Zodra duidelijk is welke AI-onderdelen er via leveranciers, medewerkers of eigen initiatieven binnen de organisatie actief zijn, ontstaat een andere vraag: wat betekent dat voor het werk zelf. Niet elke AI-toepassing die binnenkomt, doet ook daadwerkelijk iets nuttigs met het proces waarin ze zit — en niet elk proces dat nu handmatig verloopt, is per definitie beter af zonder AI. De werkscan van FTE TO AI rekent per taak uit welk deel van het werk redelijkerwijs door AI is over te nemen, los van de vraag hoe die AI is binnengekomen. Dat maakt van de inventaris die u nu opbouwt niet alleen een governance-instrument, maar ook een uitgangspunt om te bepalen waar AI daadwerkelijk verschil maakt.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.