Instytucje edukacyjne mają cechę, którą podziela niewiele innych sektorów: użytkownicy AI to w dużej mierze osoby, które instytucja ma kształtować, nie kontrolować. Studenci i uczniowie korzystają z modeli językowych do tworzenia zadań, streszczeń i prac pisemnych, często szybciej i szerzej, niż nauczyciele i decydenci mogą to nadzorować. Nauczyciele korzystają z tych samych narzędzi, aby przyspieszyć sprawdzanie prac, opracowywać materiały do zajęć lub formułować informacje zwrotne. Pomiędzy nimi stoi zarząd odpowiedzialny za jakość edukacji, egzaminowanie oraz ochronę danych osobowych często niepełnoletnich uczniów, bez zawsze pełnego wglądu w to, co dzieje się w praktyce.
Ta relacja — użycie, które zaczyna się od użytkownika, nie od organizacji — sprawia, że governance w edukacji różni się od środowiska biznesowego, w którym IT nabywa i wdraża narzędzie. Tutaj użycie powstaje najpierw, rozproszone na tysiące indywidualnych wyborów, a pytanie o kontrolę pojawia się dopiero później.
Inwentaryzacja oprogramowania edukacyjnego pokazuje, jakie cyfrowe środowiska nauki, systemy egzaminacyjne i pakiety administracyjne zostały zakupione. Ta lista niewiele mówi o tym, co nauczyciele faktycznie wykorzystują do tworzenia materiałów do zajęć, a jeszcze mniej o tym, co uczniowie i studenci wykorzystują do wykonywania zadań. Chatbot dostępny bezpłatnie przez przeglądarkę nie wymaga zgody działu IT i nie pojawia się w żadnym przeglądzie umów.
To sprawia, że shadow AI w edukacji jest zjawiskiem strukturalnym, nie wyjątkiem. Użycie jest rozproszone pomiędzy nauczycieli, którzy indywidualnie decydują, jak wykorzystują narzędzie, studentów, którzy eksperymentują bez pytania kogokolwiek, oraz części organizacji — od planowania rozkładu zajęć do doradztwa studiów — które niezależnie od siebie szukają pomocniczych narzędzi. Pełny obraz wymaga więc nie tylko technicznej inwentaryzacji, ale także pytania skierowanego do osób, które codziennie z tym pracują: czego Pan/Pani używa i do czego.
To pytanie przynosi uczciwą odpowiedź tylko wtedy, gdy nie wiąże się z nim sankcja. Nauczyciel, który przyznaje, że zadania są sprawdzane z pomocą AI, lub uczeń, który opowiada, jak powstała praca pisemna, nie zrobi tego, jeśli istnieje ryzyko, że takie użycie zostanie potraktowane jako naruszenie. Instytucje, które chcą przede wszystkim wiedzieć, co się dzieje, odnoszą więc korzyść z podejścia, które najpierw mapuje użycie, a pytanie o zasadność i reguły stawia osobno i później. Kto zadaje obydwa pytania jednocześnie, na pierwsze nie otrzyma odpowiedzi.
Nie każde użycie AI w szkole czy instytucji ma tę samą wagę. Narzędzie, które pomaga nauczycielom formułować informację zwrotną do wypracowania, ma inny wpływ niż system, który liczy się do oceny egzaminu, lub narzędzie wykorzystywane przy selekcji studentów na kierunek studiów. Tam, gdzie AI wpływa na decyzję dotyczącą indywidualnego ucznia lub studenta — ocenę, poradę, przyjęcie — poziom ryzyka jest wyższy niż tam, gdzie AI jedynie oszczędza czas przy pracach przygotowawczych.
Ta klasyfikacja według roli i ryzyka jest potrzebna, aby dobrze rozdzielić ograniczoną uwagę. Nie każde użycie wymaga tego samego poziomu nadzoru, a podejście do governance, które traktuje wszystko jednakowo, gubi właśnie przegląd w miejscach, gdzie ryzyko jest najwyższe.
Instytucje edukacyjne często już posiadają formy nadzoru: komisję egzaminacyjną, radę pracowniczą, inspektora ochrony danych, system zarządzania jakością. AI-governance działa lepiej, gdy nawiązuje do tych istniejących struktur, niż gdy tworzony jest osobny, nowy obwód. Komisja egzaminacyjna, która już określa dopuszczalne pomoce przy teście, jest logicznym miejscem, aby oceniać także użycie AI. Pytanie dotyczące governance to więc nie tylko to, jakie reguły będą obowiązywać, ale też komu w ramach istniejącej organizacji przypisany zostanie nadzór.
Aktualne ramy prawne — co jest obowiązkowe, dla kogo i w jakim terminie — są opisane gdzie indziej. Tutaj chodzi o mechanizm: wiedzieć, co jest używane, wiedzieć, kto za to odpowiada, i móc to udowodnić wobec zarządu, organu nadzoru lub rodziców.
Sektor edukacji podziela z innymi środowiskami fakt, że shadow AI jest normą, nie wyjątkiem, ale powód jest inny. Tam, gdzie AI-governance w sektorze finansowym jest kierowana głównie nadzorem nad indywidualnymi decyzjami dotyczącymi klientów, a AI-governance w sektorze ICT skupia się na AI, która staje się częścią dostarczanego produktu, w edukacji chodzi o dużą grupę użytkowników, która nie ma formalnej pozycji w organizacji, ale reprezentuje największą część faktycznego użycia. To inne wyzwanie niż w AI-governance w handlu detalicznym, gdzie użycie zazwyczaj leży w gestii pracowników na danym stanowisku.
Inwentaryzacja tego, jaka AI jest wykorzystywana i przez kogo, to pierwszy krok. Pytanie, które następuje później, jest bardziej konkretne: jaka część pracy, którą obecnie wykonują nauczyciele, pracownicy wsparcia edukacyjnego czy pracownicy ds. polityki, jest odpowiednia do przejęcia przez AI, a jaka nie. To pytanie na poziomie zadania, nie funkcji czy działu. Skan pracy FTE TO AI przelicza to na poziomie zadań i pokazuje, jaka część pracy faktycznie da się zautomatyzować, niezależnie od tego, jakie narzędzia już krążą w obiegu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.