De vraag of een AI-toepassing als hoog risico geldt, klinkt als een technische kwalificatie. In de praktijk is het een indeling die afhangt van een aantal concrete factoren, en die indeling bepaalt vervolgens hoeveel oversight, documentatie en aantoonbaarheid er van u wordt verwacht. De actuele wettelijke definities en drempels staan niet op deze pagina; die vindt u elders. Hier leggen wij uit waarvan de indeling afhangt en wat er in uw organisatie verandert als die indeling wijzigt.
Er is niet één kenmerk dat een toepassing tot hoog risico maakt. Het is een combinatie van factoren die samen het beeld vormen: het domein waarin de toepassing wordt ingezet, de mate waarin een besluit direct gevolgen heeft voor een persoon, en de vraag of er een mens is die het advies of de uitkomst van de AI daadwerkelijk kan beoordelen en zo nodig corrigeren voordat het effect heeft. Een toepassing die alleen tekst samenvat, zit doorgaans anders in die indeling dan een toepassing die meeweegt in een beslissing over een individu. Ook de context waarin een toepassing wordt gebruikt, telt mee: dezelfde onderliggende techniek kan in het ene domein als laag risico gelden en in het andere als hoog risico, afhankelijk van wat er met de uitkomst gebeurt.
Dit is een van de redenen waarom een lijst van goedgekeurde software niet volstaat. De indeling hangt niet af van het label op het pakket, maar van hoe het daadwerkelijk wordt gebruikt en waar het in het besluitproces staat.
Als een toepassing als hoger risico wordt beoordeeld, verandert er iets in wat er van de organisatie wordt verwacht: meer documentatie over hoe de toepassing werkt en is getest, een duidelijker toezichtmechanisme op de uitkomsten, en een manier om achteraf te kunnen laten zien wie waarop heeft gelet. Dat is geen eenmalige actie maar een doorlopende verplichting: de documentatie en het toezicht moeten actueel blijven zolang de toepassing in gebruik is.
De indeling is ook niet statisch. Een toepassing die vandaag als beperkt risico geldt, kan morgen anders worden ingezet — in een ander domein, met een grotere impact op individuen, of met minder menselijke tussenkomst dan voorheen. Wie de indeling eenmalig vaststelt en daarna niet meer herziet, loopt het risico dat de classificatie niet meer aansluit bij het feitelijke gebruik. Dat geldt evenzeer voor toepassingen die worden aangepast nadat ze zijn aangeschaft; wat er precies verandert als u een model zelf bijstelt, hangt af van de aard van die aanpassing, zoals beschreven op de pagina over aanpassingen aan een model.
De classificatie van een toepassing is alleen betekenisvol als zij wordt toegepast op wat er werkelijk gebruikt wordt. Een groot deel van het gebruik in een organisatie loopt buiten de officiële inventaris: teams die een taalmodel inzetten voor een concept-e-mail, een analist die een extern model gebruikt voor een eerste versie van een rapport, een afdeling die een tool heeft aangeschaft zonder die te melden. Dat gebruik ontstaat niet uit onwil. Het ontstaat omdat de officiële weg trager is dan de behoefte, of omdat niemand wist dat er een weg bewandeld moest worden.
De consequentie is dat de IT-lijst zelden een compleet beeld geeft. Wie wil weten wat er werkelijk aan risicoclassificatie nodig is, moet het gebruik zelf in kaart brengen — en dat vraagt om vragen stellen aan de mensen die het werk doen, zonder dat daar een afrekening op volgt. Wie bij het eerste gesprek al voelt dat een eerlijk antwoord tot gevolg heeft, antwoordt niet eerlijk. Dat maakt de inventaris onbruikbaar voordat hij is afgerond.
Niet elke toepassing van AI valt binnen het kader waarin risicoclassificatie relevant is. Sommige toepassingen vallen om aard of doel buiten de reikwijdte van de regelgeving, en het is verstandig dat onderscheid vroeg te maken voordat u tijd besteedt aan classificatie die niet nodig is; welke toepassingen dat betreft, staat beschreven op de pagina over toepassingen die buiten de reikwijdte van de verplichtingen vallen. Ook de rol die uw organisatie speelt — als aanbieder van een systeem of als gebruiker ervan — beïnvloedt welke verplichtingen aan een risicoclassificatie zijn verbonden, en die rol is niet altijd vooraf duidelijk; wat daarbij de doorslag geeft, leest u op de pagina over het onderscheid tussen aanbieder en gebruiker. Diezelfde rol kan overigens wijzigen zodra u een systeem aanpast of onder eigen naam aanbiedt, iets dat nader wordt toegelicht op de pagina over de omstandigheden waaronder uw rol verandert.
Een indeling naar risiconiveau roept vrijwel altijd de vervolgvraag op wat daarvan urgent is en wat nog gepland kan worden. Dat onderscheid is niet voor elke organisatie gelijk en hangt af van welke toepassingen al in productie zijn en welke nog in ontwikkeling. Een overzicht van wat doorgaans eerst aandacht vraagt en wat later kan volgen, staat op de pagina over wat er nu moet gebeuren en wat u kunt plannen.
Als eenmaal duidelijk is welke toepassingen in uw organisatie als hoog risico gelden, volgt vanzelf een andere vraag: hoeveel van het onderliggende werk daadwerkelijk door AI wordt gedaan, en hoeveel door mensen die de uitkomst controleren of aanvullen. Die vraag ligt buiten de reikwijdte van deze scan, maar wordt beantwoord door de werkscan van FTE TO AI, die per taak berekent welk deel van het werk redelijkerwijs door AI is over te nemen.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.