I sundhedssektoren er forholdet mellem, hvad der er godkendt, og hvad der faktisk bruges, anderledes end i de fleste andre sektorer. Der findes allerede et tæt system af kontrol: regulering af medicinsk udstyr, kvalitetsrammer, medicinsk-etiske vurderingskomitéer, databeskyttelsesansvarlige. Det system er bygget op omkring fysisk udstyr, lægemidler og behandlingsprotokoller. AI-anvendelser glider ofte igennem imellem, fordi de ikke er indkøbt som et hjælpemiddel, men bruges som et hjælpemiddel. En sprogmodel, der læser med i en patientjournal, et transskriptionsværktøj under en konsultation, en algoritme, der understøtter triage: ingen af disse anvendelser behøver at være gået igennem den eksisterende godkendelsesproces for alligevel at blive brugt dagligt.
Hertil kommer, at interesserne i sundhedssektoren vejer tungere end i mange andre sektorer. Det handler ikke kun om drift, men om patientsikkerhed, medicinsk-etisk ansvar og patienternes tillid til, at det, der sker med deres data, forløber under kontrol. Det gør spørgsmålet "hvad kører her egentlig" mere indtrængende end andre steder, og samtidig sværere at besvare, fordi sundhedsprofessionelle arbejder under tidspres, og et værktøj, der hjælper, ikke hurtigt bliver meldt, hvis det at melde det føles som en omvej.
IT-afdelingen på en sundhedsinstitution har en liste over godkendte systemer. Den liste er et udgangspunkt, ikke virkeligheden. En læge, der bruger en sprogmodel til at udforme et udkast til en udskrivningsbrev, en sygeplejerske, der konsulterer en app om medicininteraktioner, et sekretariat, der bruger talegenkendelse uden om det officielle journalsystem: den slags anvendelse opstår, fordi det gør arbejdet lettere, ikke fordi det er blevet ansøgt om. Ingen har villet holde dette hemmeligt. Det er bare aldrig blevet spurgt om, og den, der spørger om det, skal kunne gøre det uden at der lurer en sanktion i horisonten. Kun da kommer der et ærligt svar, og kun med et ærligt svar kan en institution vide, hvor risiciene virkelig ligger.
Efter kortlægningen følger klassificering: hvilken rolle udfylder en AI-anvendelse, og hvilket risikoniveau hører dertil. I sundhedssektoren er den forskel skarp. Et værktøj, der opsummerer noter til en behandlers eget brug, bærer en anden vægt end et system, der indgår i en diagnose eller i en beslutning om behandlingskapacitet. Klassificeringen selv bestemmes af regulering, som falder uden for denne side, og som konstant er under udvikling; den aktuelle indeling og de dertilhørende forpligtelser findes andetsteds. Hvad der tæller her, er mekanismen: hver anvendelse får en plads i en indeling efter funktion og virkning, så det bliver tydeligt, hvilke anvendelser der kræver opmærksomhed, og hvilke der ikke gør.
Sundhedsinstitutioner bygger ikke fra grunden. Der findes allerede vurderingskomitéer, kvalitetssystemer, databeskyttelsesansvarlige og interne revisionsprocesser. En governance-tilgang til AI, der står løsrevet fra det, bliver et ekstra lag, som ingen holder ved. En tilgang, der tilpasser sig den eksisterende struktur, bliver en del af det, der allerede sker: den samme komité, der vurderer et nyt hjælpemiddel, vurderer også en ny AI-anvendelse; det samme risikoregister får en rubrik til AI ved siden af de rubrikker, der allerede findes. Det kræver ikke et nyt apparat, men en ramme, der passer til det, institutionen allerede gør.
En direktion, et tilsynsorgan eller et tilsynsmyndighed vil kunne se, hvad der sker, ikke antage, at det er under kontrol. Dokumenterbarhed betyder, at der findes et aktuelt overblik over, hvilke AI-anvendelser der er i brug, hvem der bruger dem, hvilket risikoniveau der hører dertil, og hvilke aftaler der er indgået omkring det. Det overblik er ikke et éngangsdokument. Sundhedsinstitutioner skifter konstant systemer, og personale tager værktøjer med fra en afdeling til en anden. Et governance-sæt, der holder det opdateret, er brugbart i det øjeblik, der bliver bedt om ansvarlighed, og ikke kun i det øjeblik, det blev udarbejdet.
Kombinationen af streng eksisterende kontrol og hurtigt voksende uformel brug er ikke unik for sundhedssektoren, selvom den her får en skarpere vægt på grund af patienten, der står i den anden ende af kæden. Institutioner, der ønsker at se, hvordan lignende spørgsmål indrettes i en anden kontekst, kan se på, hvordan AI-governance i undervisningssektoren håndterer en lignende spænding mellem omsorgspligt og praktisk brug, på den måde, hvorpå AI-governance i den forretningsmæssige servicesektor beskytter fortrolighed og klientinteresser, eller på hvordan AI-governance i fremstillingsindustrien håndterer systemer, der direkte griber ind i en fysisk proces.
Så snart det er klart, hvilke AI-anvendelser der kører, og hvilket risikoniveau de falder under, står et andet spørgsmål tilbage: hvad den brug betyder for arbejdet selv. En governance-kortlægning viser, hvad der kører, ikke hvor meget tid det frigør, eller hvilken del af en opgave der faktisk kan overtages. Det spørgsmål ligger uden for governance og inden for arbejdsscanningen fra FTE TO AI, som pr. opgave beregner, hvilken del af arbejdet der kan overtages af AI. For en sundhedsinstitution, der først vil have overblik over, hvad der bruges, og derefter vil vide, hvad den brug betyder for indsatsen af personale, følger det andet spørgsmål logisk efter det første.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.