Inom vården ser förhållandet mellan vad som är godkänt och vad som faktiskt används annorlunda ut än i de flesta sektorer. Det finns redan ett tätt system av kontroll: regelverk för medicintekniska produkter, kvalitetsramverk, medicinsk-etiska granskningskommittéer, dataskyddsombud. Det systemet är byggt kring fysiska apparater, läkemedel och behandlingsprotokoll. AI-tillämpningar glider ofta emellan, eftersom de inte köpts in som hjälpmedel men ändå används som ett. En språkmodell som läser med i en patientjournal, ett transkriptionsverktyg under en konsultation, en algoritm som stödjer triage: ingen av dessa tillämpningar behöver ha gått igenom den befintliga granskningsvägen för att ändå användas dagligen.
Därtill kommer att intressena inom vården väger tyngre än i många andra sektorer. Det handlar inte bara om verksamhetsstyrning, utan om patientsäkerhet, medicinsk-etiskt ansvar och patienternas förtroende för att det som sker med deras uppgifter sker under kontrollerade former. Det gör frågan "vad körs här egentligen" mer angelägen än på andra håll, och samtidigt svårare att besvara, eftersom vårdpersonal arbetar under tidspress och ett verktyg som hjälper till inte snabbt anmäls om det anmäla känns som en omväg.
IT-avdelningen på en vårdinstitution har en lista över godkända system. Den listan är en utgångspunkt, inte verkligheten. En läkare som använder en språkmodell för att formulera ett utkast till ett utskrivningsbrev, en sjuksköterska som konsulterar en app för läkemedelsinteraktioner, ett sekretariat som använder taligenkänning utanför det officiella journalsystemet: den här typen av användning uppstår för att den underlättar arbetet, inte för att den har begärts. Ingen har velat hemlighålla detta. Det har helt enkelt aldrig efterfrågats, och den som frågar måste kunna göra det utan att en sanktion väntar runt hörnet. Bara då kommer det ett ärligt svar, och bara med ett ärligt svar kan en institution veta var riskerna verkligen ligger.
Efter inventeringen följer klassificering: vilken roll fyller en AI-tillämpning, och vilken risknivå hör den till. Inom vården är den distinktionen skarp. Ett verktyg som sammanfattar anteckningar för en vårdgivares eget bruk har en annan tyngd än ett system som vägs in i en diagnos eller i ett beslut om behandlingskapacitet. Klassificeringen i sig bestäms av regelverk som ligger utanför denna sida och som ständigt utvecklas; den aktuella indelningen och de tillhörande skyldigheterna beskrivs på annat håll. Det som räknas här är mekanismen: varje tillämpning får en plats i en indelning efter funktion och påverkan, så att det blir tydligt vilka tillämpningar som kräver uppmärksamhet och vilka som inte gör det.
Vårdinstitutioner bygger inte från noll. Det finns redan granskningskommittéer, kvalitetssystem, dataskyddsombud och interna granskningsvägar. Ett styrningsupplägg för AI som är fristående från detta blir ett extra lager som ingen underhåller. Ett upplägg som ansluter till den befintliga strukturen blir en del av det som redan sker: samma kommitté som bedömer ett nytt hjälpmedel bedömer också en ny AI-tillämpning; samma riskregister får en rubrik för AI vid sidan av de rubriker som redan finns. Det kräver inte en ny apparat, utan ett ramverk som passar in i det institutionen redan gör.
En styrelse, ett tillsynsorgan eller en inspektion vill kunna se vad som pågår, inte anta att det är under kontroll. Bevisbarhet innebär att det finns en aktuell översikt över vilka AI-tillämpningar som används, vem som använder dem, vilken risknivå de tillhör och vilka överenskommelser som gjorts kring dem. Den översikten är inget engångsdokument. Vårdinstitutioner byter ständigt system, och personal tar med sig verktyg från en avdelning till en annan. En styrningsuppsättning som håller detta uppdaterat är användbar i det ögonblick redovisning efterfrågas, och inte bara i det ögonblick den upprättades.
Kombinationen av strikt befintlig kontroll och snabbt växande informell användning är inte unik för vården, även om den här får en skarpare laddning på grund av patienten som står i slutet av kedjan. Institutioner som vill se hur liknande frågeställningar hanteras i ett annat sammanhang kan titta på hur AI-styrning inom utbildningen hanterar en liknande spänning mellan omsorgsplikt och praktisk användning, på hur AI-styrning inom affärstjänster bevakar sekretess och klientintresse, eller på hur AI-styrning inom tillverkningsindustrin hanterar system som ingriper direkt i en fysisk process.
Så snart det är klart vilka AI-tillämpningar som körs och under vilken risknivå de faller, återstår en annan fråga: vad den användningen betyder för själva arbetet. En styrningsinventering visar vad som körs, inte hur mycket tid det frigör eller vilken del av en uppgift som faktiskt kan tas över. Den frågan ligger utanför styrning och inom FTE TO AI:s arbetsscan, som per uppgift beräknar vilken del av arbetet som kan tas över av AI. För en vårdinstitution som först vill ha överblick över vad som används, och därefter vill veta vad den användningen betyder för personalinsatsen, följer den andra frågan logiskt på den första.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.