En inventering av AI-användning ger vanligtvis en lista som är för lång för att hantera i ett svep. Frågan som följer är då inte "vad måste vi göra" utan "vad måste vi göra först". Det är en indelningsfråga, och svaret beror inte på hur många system det finns, utan på vad dessa system gör och för vem.
Den första faktorn är risknivån för tillämpningen i sig. Ett system som förbereder beslut om människor — anställning, kreditgivning, tilldelning av vård eller bidrag — kräver en annan behandling än ett verktyg som skriver om text för internt bruk. Vad en hög risknivå innebär för er organisation skiljer sig alltså per tillämpning, och dessa skillnader avgör vilka system som ska hanteras först.
Den andra faktorn är organisationens roll gällande det systemet. Den som köper en modell och använder den oförändrad har andra skyldigheter än den som låter träna en modell på egna data eller strukturellt anpassar resultatet. Om ni är leverantör eller användare av en AI-tillämpning avgör inte bara vilka skyldigheter som gäller, utan även hur mycket tid som krävs för att uppfylla dessa skyldigheter — en leverantör har vanligtvis mer att förbereda än en användare.
Den tredje faktorn är om systemet redan används eller fortfarande håller på att anskaffas. En risk som redan är i drift — med verkliga användare, verkliga beslut, verkliga uppgifter — kräver en annan prioritetsordning än en risk som fortfarande befinner sig i avtalsfasen och där överenskommelser fortfarande kan fastställas innan systemet går i drift.
Denna indelning är ingen ögonblicksbild. Ett system som idag har låg risk kan efter en ändring inte längre vara det. Vad det innebär när ni själva anpassar en modell — finjustering, ett nytt dataset, en annan tillämpning av samma underliggande teknik — beror på vad som exakt förändras, men den indelning som tidigare gjorts håller därmed inte automatiskt.
Detsamma gäller rollförändring. En organisation som tar emot en färdig modell och därefter anpassar den avsevärt, kan därmed förskjutas från användare till leverantör. När den rollen förändras är inte alltid ögonblicket för anpassningen själv, utan det ögonblick då den anpassningen förändrar systemets karaktär. Även det är en indelningsfråga, och även den kräver ny bedömning så snart situationen ändras — inte en engångskontroll som därefter förblir gällande.
Och ett system som fortfarande håller på att anskaffas förskjuts från planerbart till akut i det ögonblick det tas i drift. Den indelning som gällde för avtalsfasen gäller inte för användningsfasen.
Den praktiska konsekvensen är att en inventering inte ger en prioritetslista en gång för alla, utan en struktur som måste genomgås upprepade gånger. System med en hög risknivå och en aktiv leverantörsroll kräver uppmärksamhet nu. System med en låg risknivå som ännu inte är i bruk kan planeras — men planeringen måste innehålla ett ögonblick då man tittar på nytt, eftersom anpassningar, rollförändring eller idrifttagning kan vända indelningen.
Det kräver en fast plats där beslut om denna indelning dokumenteras: vilket system som markerats som akut, utifrån vilken faktor, och när den bedömningen senast gjordes. En oversight-beslutslista är den form där indelningen görs påvisbar — inte som extra administration, utan som det enda beviset att indelningen inte är slumpmässig, utan resultatet av en upprepningsbar process.
Den faktiska lagstiftningen — vilka tidsfrister som gäller, vilka skyldigheter per riskklass som hör till vilket datum — finns beskriven på annat håll. Denna sida beskriver mekanismen med vilken ni skiljer akut från planerbart; den aktuella lagtexten och tidsfristerna finner ni inte här.
Indelningen i akut och planerbart säger något om prioriteringsordningen för uppmärksamhet, inte om innehållet i själva arbetet. När det står klart vilken AI-tillämpning som får förtur, kvarstår frågan om vad den tillämpningen exakt gör med arbetet som omger den: vilken del av en uppgift som sker automatiskt, vilken del som kräver kontroll, och vilken del som förblir hos en människa. Den frågan besvarar arbetsscanen från FTE TO AI, som per uppgift beräknar vilken del av arbetet som kan övertas av AI — ett komplement till den indelning som görs här, inriktat på innehållet i arbetet självt.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.