Kennisbank

När blir anpassning av en modell ert eget ansvar?

En modell som ni köper in och använder oförändrad är en annan situation än en modell som ni finetunar, tränar om på egna data, eller sammanfogar med andra system. Frågan som hör därtill är inte om det är tillåtet, utan vad det förändrar i er roll. Denna sida beskriver vad den indelningen beror på. Det aktuella regelinnehållet finns på annat håll; här handlar det om mekanismen som avgör när något förändras och vad ni internt gör med det.

Vad indelningen beror på

Om anpassning av en modell ändrar er roll beror på ett antal faktorer som ni måste fastställa per situation, inte på en fast gräns som är lika för varje modell.

• Anpassningens karaktär. En modell som ni bara anropar via ett gränssnitt är något annat än en modell vars vikter ni justerar, som ni finetunar på egna data, eller som ni sammanfogar med andra modeller eller datakällor.
• Vad anpassningen gör med risken. En anpassning som förändrar modellens syfte, breddar målgruppen, eller låter utfallet landa i ett annat domän, väger annorlunda än en anpassning som bara justerar språk eller stil.
• Vem som utför anpassningen och varför. Intern finetuning för en specifik process är en annan situation än en anpassning som gör systemet lämpat att erbjudas till tredje part.
• Om den underliggande modellen redan hade en roll och en risknivå. Anpassning av ett system som redan var klassificerat som hög risk väger annorlunda än anpassning av ett system utan den kvalificeringen.

Dessa faktorer samverkar. Ingen av dessa punkter är i sig avgörande; det är kombinationen som bestämmer om anpassningen förändrar er position.

Vad som förändras när situationen förändras

Om anpassningen är omfattande nog förändras vanligtvis inte bara modellens klassificering utan även vad som förväntas av organisationen: annan dokumentation, annat internt ansvar, möjligen en annan part som är ansvarig för helheten. Den mekanismen, och skillnaden mellan en part som bara använder en modell och en part som medutformar modellen, beskrivs på sidan som beskriver skillnaden mellan leverantör och användare. Exakt när en anpassning är omfattande nog för att få rollen att skifta är en fråga som måste besvaras separat för varje system; den allmänna mekanismen bakom detta finns på sidan om det ögonblick då er roll förändras.

Konsekvenserna av det skiftet beror i sin tur på vilken risknivå den anpassade modellen får. En anpassad modell som hamnar i en högriskkategori medför andra skyldigheter än en anpassad modell som hamnar utanför den. Vad en hög risknivå i praktiken innebär för interna processer och tillsyn beskrivs på sidan om konsekvenserna av en hög risknivå för er organisation. Omvänt är det också möjligt att en anpassning håller ett system utanför den tyngsta kategorin, eller att tillämpningsområdet helt enkelt inte omfattas av regelverket; vilka tillämpningar som faller utanför scope och varför beskrivs på sidan om tillämpningar som faller utanför scope.

Varför detta sällan är synligt på ett enda ställe

Anpassningar av modeller sker ofta nära det dagliga arbetet: ett team som finetunar en extern modell på egna dokument, en utvecklare som kopplar samman två system, en avdelning som matar en chatbot med interna kunskapsbaser. Det är precis de anpassningar som inte går via en central inköpsprocess och därför inte automatiskt hamnar på en IT-lista. Den som vill veta om, och var, detta sker inom organisationen måste fråga — och det fungerar bara om frågan inte är kopplad till en avräkning. Ett team som har anpassat en modell utan att be om tillstånd för det, rapporterar inte det om svaret leder till en sanktion.

Vad detta betyder för policy och tillsyn

Eftersom indelningen av anpassningar inte är fast utan fastställs per situation, räcker det inte att en gång avgöra vilken roll en modell har. Anpassningar som sker efter den första bedömningen måste på nytt genomgå samma frågor. En policy som stödjer detta måste i vanligt språk beskriva när en anpassning måste rapporteras och till vem; hur en sådan policy förblir läsbar i stället för en text som ingen konsulterar beskrivs på sidan om en AI-policy som verkligen läses. Dessutom är det viktigt att beslut om anpassningar — vem som gav godkännande, på vilken grund, med vilken risknivå som resultat — dokumenteras på en plats där de kan återfinnas. Hur en sådan dokumentation ser ut i praktiken beskrivs på sidan om en beslutslogg för mänsklig tillsyn.

Nästa fråga

Indelningen av en anpassad modell avgör vilka skyldigheter som gäller, men säger ingenting om vad modellen i praktiken gör med själva arbetet. För den frågan — vilken del av en uppgift som tas över av AI, vilken del som stannar hos en medarbetare, och vad en anpassning förskjuter i det avseendet — krävs ett annat perspektiv än en riskbedömning. Arbetsanalysen från FTE TO AI beräknar per uppgift vilken del av arbetet som kan tas över av AI, oberoende av frågan om vilka styrningsregler som gäller för modellen.