Obrazovne ustanove imaju jednu osobinu koju malo drugih sektora dijeli: korisnici AI-ja su velikim dijelom upravo osobe koje ustanova treba oblikovati, a ne kontrolirati. Studenti i učenici koriste jezične modele za izradu zadataka, sažetaka i radova, često brže i šire nego što nastavnici i kreatori politike mogu pratiti. Nastavnici koriste te iste alate za ubrzavanje ispravljanja, izradu nastavnih materijala ili formuliranje povratnih informacija. Između njih stoji uprava koja je odgovorna za kvalitetu obrazovanja, ispitivanje i zaštitu osobnih podataka često maloljetnih učenika, a da притом nema uvijek uvid u ono što se u praksi zapravo događa.
Taj odnos — korištenje koje počinje kod korisnika, a ne kod organizacije — čini upravljanje u obrazovanju drugačijim nego u poslovnom okruženju gdje IT odjel nabavlja i uvodi alat. Ovdje korištenje nastaje prvo, raspršeno kroz tisuće pojedinačnih odluka, a pitanje kontrole postavlja se tek naknadno.
Popis obrazovnog softvera pokazuje koja su digitalna okruženja za učenje, sustavi za testiranje i administrativni paketi nabavljeni. Taj popis malo govori o tome što nastavnici zapravo koriste za izradu nastavnih materijala, a još manje o tome što učenici i studenti koriste za izradu zadataka. Chatbot koji je besplatno dostupan putem preglednika ne traži odobrenje IT odjela i ne pojavljuje se ni u jednom pregledu ugovora.
Zbog toga je sjenoviti AI (shadow AI) u obrazovanju strukturna pojava, a ne iznimka. Korištenje je raspršeno među nastavnicima koji pojedinačno odlučuju kako će koristiti alat, među studentima koji eksperimentiraju a da ih nitko to ne pita, te među dijelovima organizacije — od izrade rasporeda do savjetovanja o studiju — koji neovisno jedni o drugima traže pomoćna sredstva. Potpuna slika stoga zahtijeva ne samo tehnički popis, nego i pitanje upućeno ljudima koji svakodnevno rade s tim alatima: što koristite, i za što.
To pitanje daje iskren odgovor samo ako uz njega ne ide sankcija. Nastavnik koji prizna da se zadaci ispravljaju uz pomoć AI-ja, ili učenik koji ispriča kako je rad sastavljen, to neće učiniti ako postoji rizik da će se to korištenje tretirati kao prekršaj. Ustanove koje prije svega žele znati što se događa, imaju stoga koristi od pristupa koji prvo mapira korištenje, a pitanje poželjnosti i pravila postavlja odvojeno i kasnije. Tko oba pitanja postavi istovremeno, na prvo neće dobiti odgovor.
Svako korištenje AI-ja u školi ili ustanovi nema jednaku težinu. Alat koji pomaže nastavnicima pri formuliranju povratnih informacija na esej ima drugačiji utjecaj od sustava koji se uračunava u ocjenjivanje ispita, ili alata koji se koristi pri odabiru studenata za program. Tamo gdje AI sudjeluje u odluci o pojedinom učeniku ili studentu — ocjeni, savjetu, upisu — razina rizika je viša nego tamo gdje AI samo štedi vrijeme kod pripremnog rada.
Ta klasifikacija prema ulozi i riziku potrebna je kako bi se ograničena pažnja pravilno rasporedila. Nije svako korištenje jednako zahtjevno u pogledu nadzora, a pristup upravljanju koji sve tretira jednako gubi upravo pregled na mjestima gdje je rizik najveći.
Obrazovne ustanove često već imaju oblike nadzora: ispitno povjerenstvo, vijeće za participaciju, službenika za zaštitu podataka, sustav osiguranja kvalitete. AI-upravljanje djeluje bolje ako se nadovezuje na te postojeće strukture nego ako se uz njih postavlja zaseban, novi krug. Ispitno povjerenstvo koje već određuje koja su dopuštena pomagala pri testu, logično je mjesto za ocjenu i korištenja AI-ja. Pitanje upravljanja stoga nije samo koja će pravila vrijediti, nego i kome se unutar postojeće organizacije dodjeljuje nadzor.
Aktualni zakonski okviri — što je obavezno, za koga, i u kojem roku — obrađeni su drugdje. Ovdje je riječ o mehanizmu: znati što se koristi, znati tko je za to odgovoran, i to moći dokazati upravi, nadzornom tijelu ili roditeljima.
Obrazovni sektor dijeli s drugim okruženjima činjenicu da je sjenoviti AI pravilo, a ne iznimka, ali razlog je drugačiji. Dok je AI-upravljanje u financijskim uslugama prvenstveno vođeno nadzorom nad pojedinačnim odlukama o klijentima, a AI-upravljanje u IT sektoru usmjereno je na AI koji sam postaje dio isporučenog proizvoda, u obrazovanju je riječ o velikoj skupini korisnika koja nema formalnu poziciju u organizaciji, ali predstavlja najveći dio stvarnog korištenja. To je drugačiji izazov nego u AI-upravljanju u maloprodaji, gdje korištenje uglavnom leži kod zaposlenika na određenoj funkciji.
Popis koji AI se koristi i tko ga koristi prvi je korak. Pitanje koje slijedi nakon toga je konkretnije: koji dio posla koji nastavnici, obrazovna podrška ili djelatnici zaduženi za politiku sada obavljaju, prikladan je da ga preuzme AI, a koji nije. To je pitanje po zadatku, a ne po funkciji ili odjelu. Radna analiza (werkscan) tvrtke FTE TO AI to izračunava na razini zadatka i pokazuje koji se dio posla doista može automatizirati, neovisno o pitanju koji alati za to već kruže.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.