Vzdělávací instituce mají vlastnost, kterou málokterý jiný sektor sdílí: uživateli AI jsou z velké části lidé, které má instituce formovat, nikoli kontrolovat. Studenti a žáci používají jazykové modely k vypracování úkolů, shrnutí a seminárních prací, často rychleji a v širším měřítku, než jsou učitelé a tvůrci politiky schopni sledovat. Učitelé používají tytéž nástroje k urychlení opravování, tvorbě studijních materiálů nebo formulaci zpětné vazby. Mezi tím stojí vedení školy, které odpovídá za kvalitu vzdělávání, zkoušení a ochranu osobních údajů často nezletilých žáků, aniž by vždy měl přehled o tom, co se v praxi děje.
Tento poměr — používání, které začíná u uživatele, nikoli u organizace — dělá governance ve školství odlišnou od podnikového prostředí, kde IT oddělení nástroj nakoupí a zavede. Zde vzniká používání nejprve, rozptýlené do tisíců jednotlivých rozhodnutí, a otázka po kontrole přichází až dodatečně.
Inventarizace vzdělávacího softwaru ukazuje, jaké digitální výukové prostředí, systémy testování a administrativní balíčky byly zakoupeny. Tento seznam vypovídá málo o tom, co učitelé skutečně používají k tvorbě studijních materiálů, a ještě méně o tom, co žáci a studenti používají k vypracování úkolů. Chatbot, který je zdarma přístupný přes prohlížeč, nevyžaduje schválení IT oddělení a neobjeví se v žádném přehledu smluv.
To dělá ze stínové AI ve školství strukturální jev, nikoli výjimku. Používání je rozptýlené mezi učitele, kteří individuálně rozhodují, jak nástroj nasadí, mezi studenty, kteří experimentují, aniž by se je někdo ptal, a mezi jednotlivé části organizace — od rozvrhování po studijní poradenství — které nezávisle na sobě hledají pomocné nástroje. Úplný obraz tedy vyžaduje nejen technickou inventarizaci, ale i otázku směrem k lidem, kteří s tím denně pracují: co používáte a k čemu.
Tato otázka přinese upřímnou odpověď jen tehdy, pokud s ní není spojena sankce. Učitel, který přizná, že úkoly jsou opravovány s pomocí AI, nebo žák, který popíše, jak byla sestavena seminární práce, to neudělá, pokud existuje riziko, že toto používání bude posuzováno jako přestupek. Instituce, které chtějí především vědět, co se skutečně děje, tedy mají prospěch z přístupu, který nejprve zmapuje používání a otázku po žádoucnosti a pravidlech postaví samostatně a později. Kdo pokládá obě otázky současně, na první z nich odpověď nedostane.
Ne každé použití AI ve škole nebo instituci má stejnou váhu. Nástroj, který učitelům pomáhá formulovat zpětnou vazbu k esejím, má jiný dopad než systém, který se započítává do hodnocení zkoušky, nebo nástroj, který se používá při výběru studentů pro studijní program. Tam, kde AI spoluurčuje rozhodnutí o jednotlivém žákovi nebo studentovi — známku, doporučení, přijetí — je úroveň rizika vyšší než tam, kde AI pouze šetří čas při přípravné práci.
Tato klasifikace podle role a rizika je nutná k tomu, aby byla omezená pozornost správně rozdělena. Ne každé použití vyžaduje stejnou míru dohledu, a přístup ke governance, který zachází se vším stejně, ztrácí přehled právě na místech, kde je riziko nejvyšší.
Vzdělávací instituce už často mají formy dohledu: zkušební komisi, radu zaměstnanců/studentů, pověřence pro ochranu osobních údajů, systém řízení kvality. AI-governance funguje lépe, pokud se napojí na tyto existující struktury, než když se vedle nich vytvoří samostatný, nový okruh. Zkušební komise, která už rozhoduje, jaké pomocné prostředky jsou při testu povolené, je logickým místem, kde se má posuzovat i používání AI. Otázka governance tedy nezní jen, jaká pravidla budou platit, ale i komu v rámci existující organizace bude dohled přidělen.
Aktuální právní rámce — co je povinné, pro koho a v jakém termínu — jsou popsány jinde. Zde jde o mechanismus: vědět, co se používá, vědět, kdo za to odpovídá, a být schopen to prokázat vedení, dozorovému orgánu nebo rodičům.
Školský sektor sdílí s jinými prostředími skutečnost, že stínová AI je normou, nikoli výjimkou, ale důvod je odlišný. Zatímco AI-governance ve finančních službách je řízena především dohledem nad jednotlivými rozhodnutími o klientech a AI-governance v ICT sektoru se týká AI, která se sama stává součástí dodávaného produktu, ve školství jde o velkou skupinu uživatelů, kteří nemají v organizaci formální postavení, ale představují většinu skutečného používání. To je jiná výzva než v AI-governance v maloobchodě, kde používání obvykle spočívá na zaměstnancích v konkrétní funkci.
Inventarizace toho, jaká AI se používá a kým, je prvním krokem. Otázka, která následuje, je konkrétnější: která část práce, kterou nyní vykonávají učitelé, pracovníci podpory vzdělávání nebo pracovníci politiky, je vhodná k převzetí AI, a která část nikoli. To je otázka na úrovni úkolu, nikoli funkce nebo oddělení. Werkscan od FTE TO AI toto propočítává na úrovni úkolů a ukazuje, kterou část práce lze skutečně automatizovat, nezávisle na otázce, jaké nástroje k tomu už kolují.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.