Uddannelsesinstitutioner har en egenskab, som få andre sektorer deler: brugerne af AI er i vid udstrækning de mennesker, institutionen skal danne, ikke kontrollere. Studerende og elever bruger sprogmodeller til at lave opgaver, resuméer og opgavebesvarelser, ofte hurtigere og bredere end lærere og beslutningstagere kan følge med i. Lærere bruger de samme værktøjer til at skynde sig igennem rettearbejde, udvikle undervisningsmateriale eller formulere feedback. Midt imellem står en ledelse, der er ansvarlig for uddannelseskvalitet, eksamination og beskyttelse af personoplysninger om ofte mindreårige elever, uden altid at have overblik over, hvad der sker i praksis.
Dette forhold — brug, der begynder hos brugeren, ikke hos organisationen — gør governance i uddannelsessektoren anderledes end i en virksomhedskontekst, hvor IT anskaffer og udruller et værktøj. Her opstår brugen først, spredt over tusinder af individuelle valg, og spørgsmålet om kontrol kommer først bagefter.
En oversigt over undervisningssoftware viser, hvilke digitale læringsmiljøer, prøvesystemer og administrationssystemer der er anskaffet. Den liste siger meget lidt om, hvad lærere faktisk bruger til at udarbejde undervisningsmateriale, og endnu mindre om, hvad elever og studerende bruger til at lave opgaver. En chatbot, der er gratis tilgængelig via en browser, kræver ingen godkendelse fra IT-afdelingen og optræder i ingen kontraktoversigt.
Det gør skygge-AI i uddannelsessektoren til et strukturelt forhold, ikke en undtagelse. Brugen er spredt ud over lærere, der hver for sig beslutter, hvordan de anvender et værktøj, over studerende, der experimenterer uden at nogen spørger, og over dele af organisationen — fra skemaplanlægning til studievejledning — der hver for sig søger efter hjælpemidler. Et fuldstændigt billede kræver derfor ikke kun en teknisk kortlægning, men også et spørgsmål til de mennesker, der arbejder med det dagligt: hvad bruger De, og til hvad.
Dette spørgsmål giver kun et ærligt svar, hvis der ikke er nogen sanktion forbundet med det. En lærer, der indrømmer, at opgaver rettes med AI-hjælp, eller en elev, der fortæller, hvordan en opgave er sammensat, gør ikke det, hvis der er risiko for, at brugen bliver behandlet som en overtrædelse. Institutioner, der primært ønsker at vide, hvad der sker, har derfor gavn af en tilgang, der først kortlægger brugen og stiller spørgsmålet om ønskværdighed og regler separat og senere. Den, der stiller begge spørgsmål på samme tid, får intet svar på det første.
Ikke al AI-brug på en skole eller institution vejer lige tungt. Et værktøj, der hjælper lærere med at formulere feedback på en opgave, har en anden betydning end et system, der tæller med i bedømmelsen af en eksamen, eller et værktøj, der bruges ved udvælgelsen af studerende til en uddannelse. Hvor AI vejer med i en beslutning om en individuel elev eller studerende — en karakter, en vurdering, en optagelse — ligger risikoniveauet højere end hvor AI kun sparer tid ved forberedende arbejde.
Denne klassificering efter rolle og risiko er nødvendig for at fordele den sparsomme opmærksomhed korrekt. Ikke al brug kræver samme grad af tilsyn, og en governance-tilgang, der behandler alt ens, taber netop overblikket dér, hvor risikoen er størst.
Uddannelsesinstitutioner har ofte allerede former for tilsyn: et eksamensudvalg, et medarbejder- eller elevråd, en databeskyttelsesansvarlig, et kvalitetssikringssystem. AI-governance fungerer bedre, når den knyttes til disse eksisterende strukturer, end når der oprettes et separat, nyt spor sideløbende. Eksamensudvalget, der allerede fastlægger, hvilke hjælpemidler der er tilladt ved en prøve, er det naturlige sted også at vurdere AI-brug. Governance-spørgsmålet er derfor ikke kun, hvilke regler der skal gælde, men også hvem inden for den eksisterende organisation der får tildelt tilsynet.
De aktuelle lovmæssige rammer — hvad der er obligatorisk, for hvem, og på hvilket tidspunkt — behandles andetsteds. Her handler det om mekanismen: at vide, hvad der bruges, at vide, hvem der er ansvarlig for det, og at kunne dokumentere det over for ledelse, tilsynsmyndighed eller forældre.
Uddannelsessektoren deler med andre miljøer, at skygge-AI er normen og ikke undtagelsen, men årsagen er en anden. Hvor AI-governance i den finansielle sektor primært styres af tilsyn med individuelle kundebeslutninger, og AI-governance i IT-sektoren handler om AI, der selv bliver en del af det leverede produkt, handler det i uddannelsessektoren om en stor gruppe brugere, der ikke har en formel position i organisationen, men som repræsenterer størstedelen af den faktiske brug. Det er en anden udfordring end i AI-governance i detailhandlen, hvor brugen normalt ligger hos medarbejdere i en funktion.
En oversigt over, hvilken AI der bruges, og af hvem, er et første skridt. Spørgsmålet, der følger derefter, er mere specifikt: hvilken del af det arbejde, lærere, undervisningsstøttemedarbejdere eller administrative medarbejdere udfører i dag, er egnet til at blive overtaget af AI, og hvilken del er det ikke. Det er et spørgsmål pr. opgave, ikke pr. funktion eller afdeling. Arbejdsscanningen fra FTE TO AI beregner dette på opgaveniveau og viser, hvilken del af arbejdet der faktisk kan automatiseres, uafhængigt af spørgsmålet om, hvilke værktøjer der allerede er i omløb til det.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.