In de zorg ligt de verhouding tussen wat wordt goedgekeurd en wat wordt gebruikt anders dan in de meeste sectoren. Er is al een dicht stelsel van toetsing: medische hulpmiddelenregelgeving, kwaliteitskaders, medisch-ethische toetsingscommissies, functionarissen gegevensbescherming. Dat stelsel is gebouwd rond fysieke apparaten, geneesmiddelen en behandelprotocollen. AI-toepassingen glippen daar vaak tussendoor, omdat ze niet als hulpmiddel zijn ingekocht maar als hulpmiddel worden gebruikt. Een taalmodel dat meeleest in een patiëntdossier, een transcriptietool tijdens een consult, een algoritme dat triage ondersteunt: geen van die toepassingen hoeft door de bestaande toetsingsroute te zijn gegaan om toch dagelijks te worden gebruikt.
Daar komt bij dat de belangen in de zorg zwaarder wegen dan in veel andere sectoren. Het gaat niet alleen om bedrijfsvoering, maar om patiëntveiligheid, medisch-ethische verantwoordelijkheid en het vertrouwen van patiënten dat wat er met hun gegevens gebeurt, gecontroleerd verloopt. Dat maakt de vraag "wat draait hier eigenlijk" indringender dan elders, en tegelijk moeilijker te beantwoorden, omdat zorgprofessionals onder tijdsdruk werken en een tool die helpt, niet snel wordt gemeld als dat melden voelt als een omweg.
De IT-afdeling van een zorginstelling heeft een lijst van goedgekeurde systemen. Die lijst is een startpunt, niet de werkelijkheid. Een arts die een taalmodel gebruikt om een ontslagbrief te concept-formuleren, een verpleegkundige die een app raadpleegt voor medicatie-interacties, een secretariaat dat spraakherkenning inzet buiten het officiele dossiersysteem: dit soort gebruik ontstaat omdat het werk oplevert, niet omdat het is aangevraagd. Niemand heeft dit willen verzwijgen. Het is gewoon nooit gevraagd, en wie het wel vraagt, moet dat doen zonder dat er een sanctie in het verschiet ligt. Alleen dan komt er een eerlijk antwoord, en alleen met een eerlijk antwoord kan een instelling weten waar de risico's werkelijk zitten.
Na de inventarisatie volgt classificatie: welke rol vervult een AI-toepassing, en welk risiconiveau hoort daarbij. In de zorg is dat onderscheid scherp. Een tool die notities samenvat voor eigen gebruik van een zorgverlener draagt een ander gewicht dan een systeem dat meeweegt in een diagnose of in een beslissing over behandelcapaciteit. De classificatie zelf wordt bepaald door regelgeving die buiten deze pagina valt en die voortdurend in ontwikkeling is; de actuele indeling en de bijbehorende verplichtingen staan elders. Wat hier telt, is het mechanisme: iedere toepassing krijgt een plek in een indeling naar functie en impact, zodat duidelijk wordt welke toepassingen aandacht vragen en welke niet.
Zorginstellingen bouwen niet vanaf nul. Er zijn al toetsingscommissies, kwaliteitssystemen, functionarissen gegevensbescherming en interne auditroutes. Een governance-aanpak voor AI die daar los van staat, wordt een extra laag die niemand onderhoudt. Een aanpak die aansluit op de bestaande structuur, wordt onderdeel van wat er al gebeurt: dezelfde commissie die een nieuw hulpmiddel beoordeelt, beoordeelt ook een nieuwe AI-toepassing; hetzelfde risicoregister krijgt een rubriek voor AI naast de rubrieken die er al staan. Dat vraagt niet om een nieuw apparaat, maar om een raamwerk dat past op wat de instelling al doet.
Een raad van bestuur, een toezichthoudend orgaan of een inspectie wil kunnen zien wat er speelt, niet aannemen dat het onder controle is. Aantoonbaarheid betekent dat er een actueel overzicht bestaat van welke AI-toepassingen in gebruik zijn, wie ze gebruikt, welk risiconiveau daarbij hoort en welke afspraken daaromheen zijn gemaakt. Dat overzicht is geen eenmalig document. Zorginstellingen veranderen voortdurend van systemen, en personeel neemt tools mee van de ene afdeling naar de andere. Een governance-set die dat bijhoudt, is bruikbaar op het moment dat er verantwoording wordt gevraagd, en niet alleen op het moment dat hij is opgesteld.
De combinatie van strenge bestaande toetsing en snel groeiend informeel gebruik is niet uniek voor de zorg, al krijgt ze hier een scherpere lading vanwege de patiënt die aan het eind van de keten staat. Instellingen die willen zien hoe vergelijkbare vraagstukken in een andere context worden ingericht, kunnen kijken naar hoe AI-governance in het onderwijs omgaat met een vergelijkbare spanning tussen zorgplicht en praktisch gebruik, naar de manier waarop AI-governance in de zakelijke dienstverlening vertrouwelijkheid en cliëntbelang bewaakt, of naar hoe AI-governance in de maakindustrie omgaat met systemen die rechtstreeks ingrijpen op een fysiek proces.
Zodra duidelijk is welke AI-toepassingen er draaien en onder welk risiconiveau ze vallen, blijft een andere vraag liggen: wat betekent dat gebruik voor het werk zelf. Een governance-inventarisatie laat zien wat er draait, niet hoeveel tijd dat vrijmaakt of welk deel van een taak daadwerkelijk overgenomen kan worden. Die vraag ligt buiten governance en binnen de werkscan van FTE TO AI, die per taak berekent welk deel van het werk door AI over te nemen is. Voor een zorginstelling die eerst overzicht wil over wat er gebruikt wordt, en daarna wil weten wat dat gebruik betekent voor de inzet van personeel, volgt die tweede vraag logisch op de eerste.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.