Izobraževalne ustanove imajo lastnost, ki jo delijo z malo drugimi sektorji: uporabniki AI so v veliki meri ljudje, ki jih naj bi ustanova oblikovala, ne nadzorovala. Dijaki in študenti uporabljajo jezikovne modele za izdelavo nalog, povzetkov in seminarskih nalog, pogosto hitreje in obsežneje, kot lahko sledijo učitelji in oblikovalci politike. Učitelji uporabljajo iste orodja za pospešitev preverjanja nalog, razvoj učnega gradiva ali oblikovanje povratnih informacij. Vmes stoji vodstvo, ki je odgovorno za kakovost izobraževanja, izpite in varstvo osebnih podatkov pogosto mladoletnih dijakov, ne da bi vedno imelo vpogled v to, kaj se v praksi dogaja.
To razmerje — uporaba, ki se začne pri uporabniku, ne pri organizaciji — dela governance v izobraževanju drugačno kot v poslovnem okolju, kjer IT nabavi in uvede orodje. Tu uporaba nastane najprej, razpršena med tisoče posameznih odločitev, in šele nato pride vprašanje o nadzoru.
Inventarizacija izobraževalne programske opreme pokaže, kateri digitalni učni okolji, sistemi za preverjanje znanja in administrativni paketi so bili nabavljeni. Ta seznam pove malo o tem, kaj učitelji dejansko uporabljajo za izdelavo učnega gradiva, in še manj o tem, kaj dijaki in študenti uporabljajo za izdelavo nalog. Klepetalni robot, ki je brezplačno dostopen prek brskalnika, ne potrebuje odobritve IT-oddelka in se ne pojavi v nobenem pregledu pogodb.
To dela senčno AI v izobraževanju strukturno dejstvo, ne izjemo. Uporaba je razpršena med učitelje, ki posamično odločajo, kako bodo orodje uporabili, med dijake in študente, ki eksperimentirajo, ne da bi jih kdo o tem vprašal, in med dele organizacije — od razporejanja urnikov do študijskega svetovanja — ki neodvisno drug od drugega iščejo pripomočke. Popolna slika torej ne zahteva le tehnične inventarizacije, temveč tudi vprašanje ljudem, ki z njimi vsak dan delajo: kaj uporabljate in za kaj.
To vprašanje prinese pošten odgovor le, če za njim ni sankcije. Učitelj, ki priznava, da se naloge preverjajo s pomočjo AI, ali dijak, ki pove, kako je nastal seminarski izdelek, tega ne bo storil, če obstaja tveganje, da bo ta uporaba obravnavana kot kršitev. Ustanove, ki predvsem želijo vedeti, kaj se dogaja, imajo torej korist od pristopa, ki najprej popiše uporabo, vprašanje o zaželenosti in pravilih pa postavi ločeno in kasneje. Kdor postavi obe vprašanji hkrati, na prvo ne dobi odgovora.
Ne vsaka uporaba AI v šoli ali ustanovi ima enako težo. Orodje, ki učiteljem pomaga pri oblikovanju povratnih informacij na esej, ima drugačen vpliv kot sistem, ki šteje pri ocenjevanju izpita, ali orodje, ki se uporablja pri izbiri študentov za program. Kjer AI vpliva na odločitev o posameznem dijaku ali študentu — oceno, priporočilo, sprejem — je raven tveganja višja kot tam, kjer AI le prihrani čas pri pripravljalnem delu.
Ta razvrstitev glede na vlogo in tveganje je potrebna za pravilno porazdelitev omejene pozornosti. Ne vsaka uporaba zahteva enak nadzor, in pristop k governance, ki vse obravnava enako, prav na mestih z najvišjim tveganjem izgubi pregled.
Izobraževalne ustanove pogosto že imajo oblike nadzora: izpitno komisijo, svet za soupravljanje, pooblaščenca za varstvo podatkov, sistem za zagotavljanje kakovosti. AI-governance deluje bolje, če se navezuje na te obstoječe strukture, kot če se poleg njih vzpostavi ločen, nov krog. Izpitna komisija, ki že določa, katera pripomočka so dovoljena pri preverjanju, je logično mesto za presojo tudi uporabe AI. Vprašanje governance torej ni le, katera pravila bodo veljala, temveč tudi, komu znotraj obstoječe organizacije se dodeli nadzor.
Aktualni pravni okviri — kaj je obvezno, za koga in v kakšnem roku — so obravnavani drugje. Tu gre za mehanizem: vedeti, kaj se uporablja, vedeti, kdo je za to odgovoren, in to znati dokazljivo izkazati vodstvu, nadzornemu organu ali staršem.
Izobraževalni sektor si z drugimi okolji deli dejstvo, da je senčna AI norma in ne izjema, razlog pa je drugačen. Kjer AI-governance v finančnih storitvah predvsem poganja nadzor nad posameznimi odločitvami o strankah, in AI-governance v IKT sektorju vrti se okoli AI, ki sama postane del dobavljenega izdelka, gre v izobraževanju za veliko skupino uporabnikov, ki nima formalnega položaja v organizaciji, a vseeno predstavlja največji del dejanske uporabe. To je drugačen izziv kot v AI-governance v trgovini na drobno, kjer uporaba običajno vendarle leži pri zaposlenih na določenem delovnem mestu.
Inventarizacija tega, katera AI se uporablja in kdo jo uporablja, je prvi korak. Vprašanje, ki sledi, je bolj specifično: kateri del dela, ki ga zdaj opravljajo učitelji, izobraževalni sodelavci ali strokovni sodelavci na področju politike, je primeren za prevzem s strani AI, in kateri del ni. To je vprašanje na ravni naloge, ne funkcije ali oddelka. Delovna analiza podjetja FTE TO AI to preračuna na ravni nalog in pokaže, kateri del dela se dejansko lahko avtomatizira, ne glede na vprašanje, katera orodja za to že krožijo.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.