Образователните институции имат една особеност, която малко други сектори споделят: потребителите на AI са в голяма степен хората, които институцията трябва да формира, а не да контролира. Студенти и ученици използват езикови модели за изготвяне на задачи, резюмета и писмени работи, често по-бързо и по-широко, отколкото преподавателите и създателите на политики могат да следят. Преподавателите използват същите инструменти, за да ускорят проверката на работи, да разработят учебни материали или да формулират обратна връзка. Между тях стои ръководство, отговорно за качеството на образованието, изпитването и защитата на личните данни на често непълнолетни ученици, без винаги да има поглед върху това, какво се случва на практика.
Това съотношение — употреба, която започва при потребителя, а не при организацията — прави governance в образованието различно от онова в бизнес среда, където IT отделът закупува и внедрява инструмент. Тук употребата възниква първо, разпръсната сред хиляди индивидуални решения, а въпросът за контрол идва впоследствие.
Инвентаризация на образователния софтуер показва, какви дигитални учебни среди, системи за тестване и административни пакети са закупени. Този списък казва малко за това, какво преподавателите действително използват за създаване на учебни материали, и още по-малко за това, какво учениците и студентите използват за изготвяне на задачи. Чатбот, който е безплатно достъпен през браузър, не изисква одобрение от IT отдела и не се появява в никакъв договорен преглед.
Това прави сенчестия AI в образованието структурна даденост, а не изключение. Употребата е разпръсната сред преподаватели, които поотделно решават как да прилагат инструмент, сред студенти, които експериментират без да ги е питал никой, и сред части на организацията — от планиране на разписания до учебно консултиране — които поотделно търсят помощни средства. Пълна картина изисква следователно не само техническа инвентаризация, но и въпрос към хората, които работят с това ежедневно: какво използвате, и за какво.
Този въпрос дава честен отговор само ако не е свързан със санкция. Преподавател, който признава, че задачи се проверяват с помощта на AI, или ученик, който разказва как е съставена писмена работа, не прави това, ако съществува риск тази употреба да бъде третирана като нарушение. Институциите, които искат преди всичко да знаят, какво се случва, следователно печелят от подход, който първо картографира употребата, а въпросът за желателност и правила поставя отделно и по-късно. Който поставя двата въпроса едновременно, не получава отговор на първия.
Не всяка употреба на AI в училище или институция тежи еднакво. Инструмент, който помага на преподавателите при формулирането на обратна връзка по есе, има различно въздействие от система, която се брои при оценяването на изпит, или инструмент, който се използва при подбора на студенти за програма. Където AI влиза при решение за отделен ученик или студент — оценка, препоръка, допускане — нивото на риск е по-високо, отколкото където AI само спестява време при подготвителна работа.
Тази класификация по роля и риск е необходима, за да се разпредели правилно ограниченото внимание. Не всяка употреба изисква еднакъв надзор, а governance подход, който третира всичко еднакво, губи именно преглед на местата, където риска е най-висок.
Образователните институции често вече имат форми на надзор: изпитна комисия, съвет за съвместно управление, служител по защита на данните, система за управление на качеството. AI-governance работи по-добре, когато се свързва с тези съществуващи структури, отколкото когато се създава отделен, нов кръг успоредно с тях. Изпитната комисия, която вече определя, какви помощни средства са допустими при тест, е логичното място да оценява и употребата на AI. Въпросът за governance е следователно не само какви правила ще важат, но и на кого в рамките на съществуващата организация се възлага надзорът.
Актуалните правни рамки — какво е задължително, за кого, и в какъв срок — са изложени на друго място. Тук става дума за механизма: да се знае, какво се използва, да се знае, кой е отговорен за това, и това да може да бъде доказано пред ръководството, надзорния орган или родителите.
Образователният сектор споделя с други среди, че сенчестия AI е норма, а не изключение, но причината е различна. Докато AI-governance във финансовите услуги се управлява преди всичко от надзор върху индивидуални решения за клиенти, а AI-governance в ИКТ секторa се върти около AI, който сам става част от предлаганото продукт, в образованието става дума за голяма група потребители, които нямат формална позиция в организацията, но представляват най-голямата част от действителната употреба. Това е различно предизвикателство от AI-governance в търговията на дребно, където употребата обикновено се намира при служители в определена длъжност.
Инвентаризация на това, какъв AI се използва и от кого, е първа стъпка. Въпросът, който следва след това, е по-конкретен: коя част от работата, която сега извършват преподаватели, образователни асистенти или служители по политиката, е подходяща да бъде поета от AI, и коя част не е. Това е въпрос за всяка задача, не за всяка длъжност или отдел. Работният скенер на FTE TO AI изчислява това на ниво задача и показва, коя част от работата действително може да бъде автоматизирана, независимо от въпроса, какви инструменти вече циркулират за това.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.