Utbildningsinstitutioner har en egenskap som få andra sektorer delar: användarna av AI är till stor del de människor som institutionen ska forma, inte kontrollera. Studenter och elever använder språkmodeller för att göra uppgifter, sammanfattningar och uppsatser, ofta snabbare och i större omfattning än lärare och beslutsfattare kan följa. Lärare använder samma verktyg för att snabba upp rättningsarbete, utveckla undervisningsmaterial eller formulera feedback. Mellan dessa grupper finns en ledning som ansvarar för utbildningskvalitet, examination och skyddet av personuppgifter för elever som ofta är minderåriga, utan att alltid ha insyn i vad som faktiskt sker i praktiken.
Detta förhållande — användning som börjar hos användaren, inte hos organisationen — gör governance inom utbildningen annorlunda än i en företagsmiljö där IT anskaffar och rullar ut ett verktyg. Här uppstår användningen först, spridd över tusentals individuella val, och frågan om kontroll kommer först efteråt.
En inventering av utbildningsprogramvara visar vilka digitala lärmiljöer, examinationssystem och administrationspaket som har anskaffats. Den listan säger lite om vad lärare faktiskt använder för att skapa undervisningsmaterial, och ännu mindre om vad elever och studenter använder för att göra sina uppgifter. En chatbot som är fritt tillgänglig via en webbläsare kräver inget godkännande från IT-avdelningen och dyker inte upp i någon avtalsöversikt.
Detta gör skugg-AI inom utbildningen till en strukturell realitet, inte ett undantag. Användningen är utspridd över lärare som individuellt avgör hur de använder ett verktyg, över studenter som experimenterar utan att någon frågar, och över delar av organisationen — från schemaläggning till studievägledning — som var för sig söker efter hjälpmedel. En fullständig bild kräver därför inte bara en teknisk inventering, utan även en fråga till de människor som arbetar med det dagligen: vad använder ni, och till vad.
Den frågan ger bara ett ärligt svar om det inte medför någon sanktion. En lärare som erkänner att uppgifter rättas med hjälp av AI, eller en elev som berättar hur en uppsats har sammanställts, gör det inte om risken finns att användningen behandlas som en överträdelse. Institutioner som främst vill veta vad som pågår har därför nytta av ett tillvägagångssätt som först kartlägger användningen och ställer frågan om önskvärdhet och regler separat och senare. Den som ställer båda frågorna samtidigt får inget svar på den första.
Inte all AI-användning i en skola eller institution väger lika tungt. Ett verktyg som hjälper lärare att formulera feedback på en uppsats har en annan påverkan än ett system som räknas in vid bedömningen av en examen, eller ett verktyg som används vid urval av studenter till en utbildning. Där AI påverkar ett beslut om en enskild elev eller student — ett betyg, ett omdöme, en antagning — ligger risknivån högre än där AI enbart sparar tid vid förberedande arbete.
Denna klassificering efter roll och risk är nödvändig för att fördela den begränsade uppmärksamheten på rätt sätt. Inte all användning kräver samma grad av tillsyn, och ett governance-tillvägagångssätt som behandlar allt lika förlorar överblicken just på de platser där risken är högst.
Utbildningsinstitutioner har ofta redan former av tillsyn: en examensnämnd, ett medbestämmandeorgan, ett dataskyddsombud, ett kvalitetssäkringssystem. AI-styrning fungerar bättre om den ansluter till dessa befintliga strukturer än om ett separat, nytt spår läggs bredvid. Examensnämnden som redan avgör vilka hjälpmedel som är tillåtna vid ett prov är den logiska platsen att även bedöma AI-användning. Governance-frågan handlar därför inte bara om vilka regler som ska gälla, utan även om vem inom den befintliga organisationen som får tillsynsansvaret.
De aktuella rättsliga ramarna — vad som är obligatoriskt, för vem, och inom vilken tidsram — behandlas på annat håll. Här handlar det om mekanismen: att veta vad som används, veta vem som ansvarar för det, och kunna visa detta på ett verifierbart sätt gentemot ledning, tillsynsmyndighet eller föräldrar.
Utbildningssektorn delar med andra miljöer att skugg-AI är normen och inte undantaget, men anledningen skiljer sig. Där AI-styrning inom finansiella tjänster framför allt styrs av tillsyn över individuella kundbeslut, och AI-styrning inom IT-sektorn handlar om AI som självt blir en del av den levererade produkten, handlar det inom utbildningen om en stor grupp användare som inte har någon formell position i organisationen men som ändå representerar den största delen av den faktiska användningen. Det är en annan utmaning än inom AI-styrning inom detaljhandeln, där användningen vanligtvis ligger hos medarbetare i en specifik roll.
En inventering av vilken AI som används och av vem är ett första steg. Frågan som följer därefter är mer specifik: vilken del av det arbete som lärare, utbildningsstöd eller policytjänstemän nu utför är lämpligt att låta AI ta över, och vilken del är det inte. Det är en fråga per uppgift, inte per funktion eller avdelning. Arbetsanalysen från FTE TO AI räknar igenom detta på uppgiftsnivå och visar vilken del av arbetet som faktiskt kan automatiseras, oavsett vilka verktyg som redan cirkulerar för det ändamålet.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.