Kennisbank

Az osztályozás nem egyszeri feladat

Egy AI-alkalmazás osztályozása egy adott pillanatbeli helyzetet ír le: melyik modell, melyik alkalmazás, milyen felhasználók, milyen kockázat. Ez a helyzet változik. Egy szolgáltató módosít egy modellt, egy csapat egy eszközt egészen más célra használ, mint amire azt beszerezték, egy szolgáltató hozzáad egy funkciót anélkül, hogy erre bárki engedélyt kérne. Az osztályozás, amelyet tavaly készített, ezáltal automatikusan már nem a mai helyzetet írja le.

A "milyen gyakran" kérdésre nincs olyan rögzített válasz, amely minden szervezetre érvényes lenne. Attól függ, hány AI-alkalmazás van, milyen gyorsan változnak, mennyire változatosak azok a csapatok, amelyek velük dolgoznak, és mennyire szigorú a felügyelet azon a szektoron, amelyben Ön működik. Egy rögzített, éves időpont egy kiindulópont, nem garancia arra, hogy közben semmit nem mulaszt el.

Amit egy rögzített időköz nem old meg

Egy éves vagy féléves felülvizsgálat jól működik azoknál az alkalmazásoknál, amelyeket már ismer, és amelyek egy formális folyamaton keresztül kerültek be. Azoknál az alkalmazásoknál, amelyeket senki nem jelentett be, egy rögzített időköz nem működik, egyszerűen azért, mert nincs mit egy rögzített dátumon újraértékelni. A Mit tegyen azokkal a munkatársakkal, akik olyan eszközt használnak, amelyet senki nem engedélyezett leírja, miért nem oldódik meg ez a kérdés egy visszatérő naptári megbeszéléssel, hanem a szervezetnek feltett kérdések egy másfajta módjával.

Ezenkívül a kockázat nem csak azáltal változik, amit egy alkalmazás tesz, hanem azáltal is, amivel táplálják. Egy csetablak, amelyet ma nyilvános szöveg összefoglalására használnak, holnap egy szerződés összefoglalására is használható. A Mit tegyen a vállalati adatokkal egy ingyenes csetablakban megmutatja, hogy ugyanazon eszköz kockázati szintje elmozdulhat anélkül, hogy az eszköz maga megváltozna.

Jelzések, amelyek felülvizsgálatot igényelnek, a dátumtól függetlenül

Egy rögzített időpont mellett vannak olyan események is, amelyek időközi felülvizsgálatot igényelnek. Egy alkalmazás funkciójának módosulása, a felhasználói kör bővülése, egy incidens vagy egy közeli hiba, a szolgáltató feltételeinek módosulása, vagy egy munkatársi jelzés arról, hogy valamit másra használnak, mint amire szánták. Ezek a jelzések nem mindegyike egyformán súlyos, és nem minden szervezet fogja őket egyformán gyorsan észrevenni.

Az a kérdés, hogy ki reagál ezekre a jelzésekre, és ki felel magáért a felülvizsgálatért, egy külön kérdés. A Ki a felelős, ha egy AI-alkalmazás hibázik leírja, hogy a felelősséget gyakran csak akkor állapítják meg, amikor valami elromlik, míg ezt a kérdést valójában már az első osztályozásnál meg kellett volna válaszolni.

Miért tűnik el egy második folyamat gyakran gyorsabban, mint a már meglévő folyamat

Egy felülvizsgálati ritmus, amelyet a meglévő kockázati folyamatok mellé állítanak be, anélkül hogy azokba integrálódna, jellemzően egy éven belül veszít a prioritásából. Ez egy extra lépés, amelyet senki nem kér, amíg valami el nem romlik, és éppen ezért marad félbehagyva. A Miért hanyagolják el a meglévő mellett álló második folyamatot elmagyarázza, miért működik hatékonyabban a felülvizsgálat, amikor a meglévő kockázatkezelésbe van beágyazva, ahelyett hogy önálló folyamatként versenyezne a figyelemért a szervezet többi részével.

Amit a módszer nem tud

Egy osztályozási módszer olyan struktúrát adhat, amellyel az AI-alkalmazások következetesen megítélhetők szerep és kockázati szint alapján, és ez a struktúra ismételhetően alkalmazható. Amit a módszer nem tud, az annak garantálása, hogy Ön mindent lát. Egy osztályozás annyira jó, amennyire jó az alatta fekvő információ, és ez az információ részben olyan emberektől érkezik, akiknek okuk lehet arra, hogy valamit ne jelentsenek. Egy munkatárs, aki egy nem engedélyezett eszközt használ, ezt önként nem jelenti, ha az elvárás az, hogy szankció következik.

A módszer azt sem tudja megjósolni, mikor módosít egy szolgáltató egy modellt, vagy mikor kezdik el egy ma alacsony kockázatú alkalmazást holnap másképp bevetni. A felülvizsgálat ezért továbbra is ismétlés és nyitottság megszervezésének kérdése marad, nem egy olyan rendszeré, amelyet egyszer beállítanak, és amely azután önállóan aktuális marad. Az, hogy hogyan tartja naprakészen ezt a nyilvántartást anélkül, hogy néhány hónap múlva ismét lemaradna, a Hogyan tartja naprakészen az AI-nyilvántartást című cikkben van leírva, amelyben az egyszeri leltár és a folyamatban lévő eljárás közötti különbség áll a középpontban.

Ehhez tartozik az a kérdés is, hogy mit jelent a gyakorlatban az AI feletti felügyelet a felülvizsgálati pillanatok között: ki tekint bele, milyen gyakorisággal, és milyen jelzések alapján. A Mi az emberi felügyelet a gyakorlatban különbséget tesz a felügyelet mint formális pipa és a felügyelet mint a használattal folyamatosan együtt haladó dolog között.

A következő kérdés, ha az osztályozás már megvan

Egy osztályozás megmondja, milyen alkalmazások léteznek, milyen szerepük van, és melyik kockázati szint illik hozzájuk. Ez az osztályozás nem mondja meg, hogy a munkából mennyit végez valójában AI, és feladatonként mennyi kapacitás marad még. Aki erre a kérdésre választ akar kapni, nem elégedhet meg egy kockázati leltárral; ehhez a munkára magára kell rátekinteni, feladatonként. Az FTE TO AI munkascanje feladatonként kiszámítja, mekkora részét lehet átvenni AI-val, kiegészítve azt a képet, amelyet egy osztályozás nyújt.