Az emberi felügyeletet gyakran egy szerepkörként rögzítik: valaki, aki felelős, egy név egy nyilvántartásban, egy bejelölt négyzet. Ez a kiindulópont, nem a mechanizmus maga. Felügyelet csak akkor jön létre, ha van egy pillanat, amikor egy ember láthatja, megértheti és módosíthatja egy AI-alkalmazás eredményét, mielőtt az valahová eljutna. Ez a pillanat nélkül a besorolás alatti név csupán formalitás.
Az, hogy a felügyelet a gyakorlatban működik-e, néhány olyan tényezőtől függ, amelyek nem jönnek létre önmaguktól. Kell lennie valakinek, akinek van jogosultsága egy eredményt megakadályozni, nem csak feladata, hogy ránézzen. Kell lennie időnek a megtekintésre, ami azt jelenti, hogy a folyamat nincs úgy kialakítva, hogy az AI-eredmény már fel legyen dolgozva, mielőtt az ellenőrzés megtörténne. És kell lennie elegendő megértésnek arról, mit csinál az alkalmazás, hogy egy eltérést fel lehessen ismerni. Egy ellenőr, aki nem tudja megítélni az eredményt, nem gyakorol felügyeletet, még akkor sem, ha a szerepkör formálisan hozzá van rendelve.
Ez összefügg azzal, mit jelent az AI-jártasság az Ön munkavállalói számára: a felügyelet az alapul szolgáló alkalmazás megértése nélkül papíron létező felügyelet.
Egy governance-struktúra rögzítheti, ki miért felelős, milyen kockázati szintje van egy alkalmazásnak, és milyen lépések tartoznak ehhez. Amit a struktúra nem tesz, az annak garantálása, hogy az adott személy az eredményt valóban felméri abban a pillanatban, amikor ez számít. Ez egy szervezeti tény, nem technikai tény. Egy besorolás lehet helyes, és a felügyelet mégis üres lehet, mert a papíron felelős személynek nincs ideje, hozzáférése vagy tudása az eredmény ellenőrzésére.
A leltár és a besorolás feltárja, hol a legnagyobb ez a kockázat: a magasabb kockázati szintű alkalmazásoknál, vagy azoknál, amelyek a rendes IT-folyamaton kívül kerültek be. Ez utóbbi csoport gyakran a legnehezebb, mert aki felügyeletet akar szervezni valamire, amit nem tart nyilván, annak először meg kell találnia azt. Ez érinti azt a kérdést, hogy mit tesz azokkal a munkavállalókkal, akik olyan eszközt használnak, amelyet senki nem engedélyezett: az árnyék-AI feletti felügyelet azzal kezdődik, hogy elismerjük, létezik az alkalmazás, nem azzal, hogy szankcionáljuk a használatát.
Egy alkalmazás, amely ma felügyelet alatt áll, holnapra megváltozhat. Egy modellt frissítenek, a bemeneti adatok elmozdulnak, vagy a szervezeten belüli használat egy egyszerű feladatból valami nagyobb súlyú dologgá nő. A felügyelet, amelyet egy évvel ezelőtti helyzetre alakítottak ki, már nem illik ahhoz, ami most történik. Ez egyike azon okoknak, amiért a besorolás nem egyszeri gyakorlat; hogy ezt milyen gyakran kell megismételni, a kockázati szinttől és attól függ, mennyire változik az alkalmazás, ahogy azt kifejtettük itt: milyen gyakran kell újra besorolni.
Ez azt is jelenti, hogy egy nyilvántartás csak akkor van értékes, ha karbantartják. Egy leltár, amelyet az első felmérésnél állítottak össze, és utána már nem frissítenek, egyre pontatlanabb képet ad arról, hol van szükség felügyeletre. Az a kérdés, hogyan tartja egy szervezet aktuálisan ezt a nyilvántartást, elkülönül attól a kérdéstől, hogyan épült fel a nyilvántartás, és önálló figyelmet érdemel: lásd hogyan tartja aktuálisan az AI-nyilvántartást.
Egy vezetőség, amelyet felkérnek annak bizonyítására, hogy van felügyelet az AI-használat felett, nem érheti be egy szerepkörlistával. A bizonyíthatóság egy nyomot igényel: ki nézett meg milyen eredményt, milyen pillanatban, milyen jogosultsággal a módosításra. Ez a nyom akkor is releváns, amikor valami elromlik. Az a kérdés, ki a felelős, amikor egy AI-alkalmazás hibázik, nem a besorolás önmagában válaszolja meg, hanem az azt követő bizonyítható felügyelet. Ezt a két dolgot könnyen összekeverik, míg a különbségtétel releváns; lásd ki felelős, amikor egy AI-alkalmazás hibázik.
A felügyelet azt is érinti, mi kerül bevitelre egy alkalmazásba. Egy munkavállaló, aki vállalati adatokat illeszt be egy ingyenes chatablakba, ezzel az adatot minden olyan felügyeleten kívülre helyezi, amelyet a szervezet kialakított, függetlenül attól, mennyire jól van megszervezve a felügyelet a jóváhagyott alkalmazásokon. Ez egy külön figyelmet igénylő terület a tágabb kérdéskörön belül, kifejtve itt: mit tesz a vállalati adatokkal egy ingyenes chatablakban.
Ez az oldal azt írja le, hogyan működik a felügyelet mint mechanizmus: ki néz, mikor, milyen jogosultsággal, és hogyan tehető ez bizonyíthatóvá. Azok a tartalmi normák, amelyek meghatározzák, mikor kötelező a felügyelet, mennyire szigorúnak kell lennie kockázati kategóriánként, és milyen határidőkön belül kell kialakítani, itt nincsenek megadva. Ez a szabályozási tartalom változik, és máshol tartják aktuálisan.
A felügyelet megszervezése egy feladatra csak akkor van értelme, ha egyértelmű, mit is jelent pontosan az adott feladat, és mekkora részét végzi el egy AI-alkalmazás. Ez más kérdés, mint hogy milyen szerepköre vagy kockázati szintje van egy alkalmazásnak; ez a feladatról magáról szól, felosztva olyan lépésekre, amelyeket egy AI-alkalmazás átvehet, és olyan lépésekre, amelyek erre nem jöhetnek szóba. Az FTE TO AI munkafolyamat-felmérése ezt feladatonként számolja ki, így láthatóvá válik, mekkora rész vehető át a munkából, és mekkora rész marad az emberi felügyelet hatókörén belül.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.