Vzdelávacie inštitúcie majú jednu vlastnosť, ktorú s nimi delí len málo iných sektorov: používatelia AI sú do veľkej miery tí isté ľudia, ktorých má inštitúcia formovať, nie kontrolovať. Študenti a žiaci používajú jazykové modely na vypracovanie úloh, zhrnutí a referátov, často rýchlejšie a v širšej miere, než dokážu učitelia a tvorcovia politiky sledovať. Učitelia používajú tie isté nástroje na urýchlenie opravovania, tvorbu učebných materiálov alebo formulovanie spätnej väzby. Medzi tým stojí vedenie, ktoré je zodpovedné za kvalitu vzdelávania, skúšky a ochranu osobných údajov často ešte neplnoletých žiakov, bez toho, aby vždy malo prehľad o tom, čo sa v praxi deje.
Tento vzťah — používanie, ktoré začína u používateľa, nie u organizácie — robí governance vo vzdelávaní odlišnou od podnikového prostredia, kde IT oddelenie nástroj obstará a nasadí. Tu vzniká používanie najprv, rozptýlené medzi tisíce individuálnych rozhodnutí, a otázka po kontrole prichádza až následne.
Inventár vzdelávacieho softvéru ukazuje, aké digitálne vzdelávacie prostredia, testovacie systémy a administratívne balíky boli obstarané. Tento zoznam veľa nehovorí o tom, čo učitelia skutočne používajú na tvorbu učebných materiálov, a ešte menej o tom, čo žiaci a študenti používajú na vypracovanie úloh. Chatbot, ktorý je bezplatne dostupný cez prehliadač, nevyžaduje schválenie IT oddelenia a neobjaví sa v žiadnom prehľade zmlúv.
To robí zo skrytej AI vo vzdelávaní štrukturálny jav, nie výnimku. Používanie je rozptýlené medzi učiteľov, ktorí si individuálne určujú, ako nástroj nasadia, medzi študentov, ktorí experimentujú bez toho, aby sa ich niekto pýtal, a medzi časti organizácie — od plánovania rozvrhov až po študijné poradenstvo — ktoré nezávisle od seba hľadajú pomocné nástroje. Úplný obraz si teda vyžaduje nielen technickú inventarizáciu, ale aj otázku smerom k ľuďom, ktorí s tým denne pracujú: čo používate a na čo.
Táto otázka prináša úprimnú odpoveď len vtedy, ak s ňou nie je spojená žiadna sankcia. Učiteľ, ktorý pripustí, že úlohy sa kontrolujú s pomocou AI, alebo žiak, ktorý povie, ako bol referát zostavený, to neurobí, ak existuje riziko, že toto používanie bude posudzované ako priestupok. Inštitúcie, ktoré chcú predovšetkým vedieť, čo sa deje, majú teda prospech z prístupu, ktorý najprv zmapuje používanie a otázku žiaducosti a pravidiel položí samostatne a neskôr. Kto položí obe otázky naraz, na prvú odpoveď nedostane.
Nie každé použitie AI v škole alebo inštitúcii má rovnakú váhu. Nástroj, ktorý pomáha učiteľom formulovať spätnú väzbu na sloh, má iný dosah než systém, ktorý sa započítava do hodnotenia skúšky, alebo nástroj nasadený pri výbere študentov na štúdium. Tam, kde AI spolurozhoduje o rozhodnutí týkajúcom sa jednotlivého žiaka alebo študenta — o známke, odporúčaní, prijatí — je úroveň rizika vyššia než tam, kde AI len šetrí čas pri prípravných prácach.
Táto klasifikácia podľa úlohy a rizika je potrebná na správne rozdelenie vzácnej pozornosti. Nie každé použitie si vyžaduje rovnaký dohľad a prístup ku governance, ktorý zaobchádza so všetkým rovnako, stráca prehľad práve na miestach, kde je riziko najvyššie.
Vzdelávacie inštitúcie majú často už formy dohľadu: skúšobnú komisiu, radu zástupcov, zodpovednú osobu pre ochranu údajov, systém riadenia kvality. AI-governance funguje lepšie, ak na tieto existujúce štruktúry nadväzuje, než keď sa vedľa nich vytvorí samostatný, nový okruh. Skúšobná komisia, ktorá už určuje, aké pomocné nástroje sú povolené pri teste, je logickým miestom na posúdenie aj používania AI. Otázka governance teda nie je len to, aké pravidlá budú platiť, ale aj to, komu v rámci existujúcej organizácie sa dohľad prideľuje.
Aktuálne právne rámce — čo je povinné, pre koho a v akom termíne — sú predmetom iných textov. Tu ide o mechanizmus: vedieť, čo sa používa, vedieť, kto je za to zodpovedný, a byť schopný to preukázateľne doložiť vedeniu, dozornému orgánu alebo rodičom.
Sektor vzdelávania má s inými prostrediami spoločné to, že skrytá AI je normou, nie výnimkou, ale dôvod je iný. Kde AI-governance vo finančných službách je poháňaná predovšetkým dohľadom nad individuálnymi rozhodnutiami o klientoch, a AI-governance v IT sektore sa točí okolo AI, ktorá sa sama stáva súčasťou dodávaného produktu, vo vzdelávaní ide o veľkú skupinu používateľov, ktorá nemá formálnu pozíciu v organizácii, ale zastupuje väčšinu skutočného používania. To je iná výzva než v AI-governance v maloobchode, kde používanie zvyčajne spočíva na zamestnancoch v konkrétnej funkcii.
Inventár toho, aká AI sa používa a kým, je prvým krokom. Otázka, ktorá nasleduje, je konkrétnejšia: aká časť práce, ktorú v súčasnosti robia učitelia, podporní pracovníci vo vzdelávaní alebo pracovníci politiky, je vhodná na prevzatie zo strany AI, a aká časť nie. Je to otázka na úrovni úlohy, nie funkcie alebo oddelenia. Pracovný sken FTE TO AI to prepočíta na úrovni úloh a ukáže, aká časť práce sa skutočne dá automatizovať, nezávisle od otázky, aké nástroje na to už kolujú.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.