Kennisbank

Att klassificera är ingen engångsövning

En klassificering av en AI-tillämpning beskriver en situation vid ett visst ögonblick: vilken modell, vilken tillämpning, vilka användare, vilken risk. Den situationen förändras. En leverantör anpassar en modell, ett team använder ett verktyg för något annat än det anskaffades för, en leverantör lägger till en funktion utan att någon ber om tillstånd för det. Klassificeringen ni gjorde förra året beskriver därför inte automatiskt fortfarande dagens situation.

Frågan "hur ofta" har inget fast svar som gäller för varje organisation. Det beror på hur många AI-tillämpningar det finns, hur snabbt de förändras, hur mångsidiga teamen är som arbetar med dem, och hur strikt tillsynen är inom den sektor ni verkar i. En fast årlig tidpunkt är en utgångspunkt, inte en garanti att ni inte missar något däremellan.

Vad ett fast intervall inte löser

En årlig eller halvårlig omklassificering fungerar bra för tillämpningar som ni redan känner till och som har kommit in via en formell process. För tillämpningar som ingen har anmält fungerar ett fast intervall inte, helt enkelt eftersom det inte finns något att ombedöma vid ett fast datum. Vad gör ni med medarbetare som använder ett verktyg som ingen har godkänt beskriver varför den frågan inte löses med ett återkommande möte i kalendern, utan med ett annat sätt att ställa frågor till organisationen.

Dessutom förändras risk inte bara genom vad en tillämpning gör, utan även genom vad som matas in i den. Ett chattfönster som idag används för att sammanfatta offentlig text kan imorgon användas för att sammanfatta ett kontrakt. Vad gör ni med företagsdata i ett gratis chattfönster visar att risknivån för samma verktyg kan förändras utan att verktyget i sig förändras.

Signaler som kräver omklassificering, oavsett datum

Utöver en fast tidpunkt finns det händelser som kräver en omklassificering mellan de fasta tillfällena. En ändring i en tillämpnings funktion, en utökning av användargruppen, en incident eller nästan-incident, en ändring i leverantörens villkor, eller en signal från en medarbetare att något används på ett annat sätt än avsett. Dessa signaler är inte alla lika allvarliga, och inte alla organisationer kommer att upptäcka dem lika snabbt.

Frågan om vem som reagerar på dessa signaler, och vem som äger själva omklassificeringen, är en separat fråga. Vem är ansvarig när en AI-tillämpning gör ett fel beskriver att ansvar ofta fastställs först i det ögonblick något går fel, medan den frågan egentligen redan borde ha besvarats vid den första klassificeringen.

Varför en andra process ofta försvinner snabbare än den process som redan fanns

Ett omklassificeringsschema som placeras bredvid de befintliga riskprocesserna, utan att integreras i dem, tappar för det mesta prioritet inom ett år. Det är ett extra steg som ingen efterfrågar förrän något går fel, och just därför blir det liggande. Varför en andra process bredvid den befintliga ignoreras förklarar varför omklassificering fungerar mer effektivt när den är inbäddad i befintlig riskhantering, istället för som ett fristående spår som konkurrerar om uppmärksamhet med resten av organisationen.

Vad metoden inte kan

En klassificeringsmetod kan erbjuda en struktur för att konsekvent bedöma AI-tillämpningar utifrån roll och risknivå, och den strukturen kan tillämpas upprepade gånger. Vad metoden inte kan är att garantera att ni ser allt. En klassificering är bara så bra som informationen som ligger under den, och den informationen kommer delvis från människor som kan ha skäl att inte rapportera något. En medarbetare som använder ett verktyg som inte är godkänt rapporterar inte det av sig själv om förväntningen är att en sanktion följer.

Metoden kan heller inte förutsäga när en leverantör ändrar en modell, eller när en tillämpning som idag har låg risk imorgon används på ett annat sätt. Omklassificering förblir därför en fråga om upprepning och om att organisera öppenhet, inte om ett system som ställs in en gång och därefter förblir aktuellt på egen hand. Hur ni håller det registret uppdaterat utan att det efter några månader släpar efter igen beskrivs i hur håller ni ett AI-register aktuellt, där skillnaden mellan en engångsinventering och en löpande process står i centrum.

Till det hör också frågan om vad tillsyn av AI i praktiken innebär mellan omklassificeringstillfällena: vem som håller uppsikt, med vilken frekvens, och utifrån vilka signaler. Vad är mänsklig tillsyn i praktiken gör den skillnaden mellan tillsyn som en formell bock i rutan och tillsyn som något som löpande följer med användningen.

Nästa fråga, när klassificeringen väl är på plats

En klassificering talar om för er vilka tillämpningar som finns, vilken roll de har och vilken risknivå som hör till. Den klassificeringen talar inte om för er hur mycket av arbetet som faktiskt utförs av AI, och hur mycket utrymme som återstår per uppgift. Den som vill besvara den frågan kan inte nöja sig med en riskinventering; det kräver en blick på själva arbetet, uppgift för uppgift. Arbetsscanen från FTE TO AI räknar per uppgift ut vilken del av den som kan övertas av AI, som ett komplement till den bild en klassificering ger.