Egy AI-használati leltár rendszerint egy olyan listát eredményez, amely túl hosszú ahhoz, hogy egyszerre kezelhető legyen. A következő kérdés nem az, hogy "mit kell tennünk", hanem hogy "mit kell először tennünk". Ez egy besorolási kérdés, és a válasz nem attól függ, hány rendszer van, hanem attól, mit tesznek azok a rendszerek, és kinek.
Az első tényező az adott alkalmazás kockázati szintje. Egy olyan rendszer, amely emberekről szóló döntéseket készít elő — felvétel, hitelnyújtás, gondozás vagy juttatások elosztása — más bánásmódot igényel, mint egy eszköz, amely belső célra szöveget ír át. Az, hogy mit jelent a magas kockázati szint az Ön szervezete számára, alkalmazásonként eltér, és ezek a különbségek határozzák meg, mely rendszerek kerülnek előbb sorra.
A második tényező a szervezet szerepe az adott rendszernél. Aki egy modellt vásárol és változatlanul használ, más kötelezettségek előtt áll, mint aki egy modellt saját adatokon tanít be, vagy az eredményt strukturálisan módosítja. Az, hogy Ön szolgáltató vagy felhasználó egy AI-alkalmazás tekintetében, nem csak azt határozza meg, milyen kötelezettségek érvényesek, hanem azt is, mennyi idő szükséges e kötelezettségek teljesítésére — egy szolgáltatónak általában több felkészülnie kell, mint egy felhasználónak.
A harmadik tényező az, hogy a rendszer már használatban van-e, vagy még beszerzés alatt áll. Egy már működő kockázat — valódi felhasználókkal, valódi döntésekkel, valódi adatokkal — más sorrendet igényel, mint egy kockázat, amely még a szerződéskötési fázisban van, ahol a megállapodások még rögzíthetők, mielőtt a rendszer élesbe megy.
Ez a besorolás nem egy pillanatfelvétel. Egy rendszer, amely ma alacsony kockázatú, egy módosítás után már nem feltétlenül az. Az, hogy mit jelent, ha Ön maga módosít egy modellt — finomhangolás, egy új adatkészlet, ugyanazon alaptechnológia másfajta alkalmazása — attól függ, mi pontosan változik, de a korábban elkészített besorolás ettől nem marad automatikusan érvényben.
Ugyanez vonatkozik a szereplőváltozásra is. Egy szervezet, amely egy kész modellt vesz át, majd azt jelentősen módosítja, ezáltal felhasználóból szolgáltatóvá válhat. Az, hogy mikor változik ez a szerep, nem mindig magának a módosításnak a pillanata, hanem az a pillanat, amikor a módosítás megváltoztatja a rendszer jellegét. Ez is egy besorolási kérdés, és ez is újraértékelést igényel, amint a helyzet megváltozik — nem egy egyszeri ellenőrzést, amely azután érvényben marad.
És egy rendszer, amely még beszerzés alatt áll, a pillanatban, amikor élesbe megy, tervezhetőből sürgőssé válik. A szerződéskötési fázisra érvényes besorolás nem érvényes a használati fázisra.
A gyakorlati következmény az, hogy egy leltár nem egyszer eredményez prioritási listát, hanem egy struktúrát, amelyet ismételten át kell futni. A magas kockázati szintű és aktív szolgáltatói szerepben lévő rendszerek most azonnali figyelmet igényelnek. Az alacsony kockázati szintű, még nem használt rendszerek beütemezhetők — de a tervezésnek tartalmaznia kell egy pillanatot, amikor újra megvizsgálják a helyzetet, mivel a módosítások, a szerepváltozás vagy az üzembe állítás megfordíthatja a besorolást.
Ez egy rögzített helyet igényel, ahol a besorolással kapcsolatos döntéseket dokumentálják: melyik rendszert jelölték sürgősnek, milyen tényező alapján, és mikor történt utoljára ez az értékelés. Egy oversight-döntési lista az a forma, amelyben ez a besorolás igazolhatóvá tehető — nem extra adminisztrációként, hanem az egyetlen bizonyítékként arra, hogy a besorolás nem véletlenszerű, hanem egy megismételhető folyamat eredménye.
A tényleges jogszabály — mely határidők érvényesek, mely kötelezettségek tartoznak melyik kockázati osztályhoz és mely dátumhoz — máshol található. Ez az oldal azt a mechanizmust írja le, amellyel a sürgőst a tervezhetőtől megkülönbözteti; az aktuális jogszöveget és határidőket itt nem találja.
A sürgős és tervezhető szerinti besorolás a figyelem sorrendjéről szól, nem a munka tartalmáról magáról. Amint tisztázódik, melyik AI-alkalmazás kap elsőbbséget, továbbra is nyitott kérdés, hogy az adott alkalmazás pontosan mit tesz a körülötte lévő munkával: a feladat mely része zajlik automatikusan, mely része igényel ellenőrzést, és mely része marad emberi kézben. Erre a kérdésre ad választ az FTE TO AI munkafelmérése, amely feladatonként kiszámítja, a munka mekkora része vehető át AI-val — kiegészítve az itt elkészített besorolást, a munka tartalmára fókuszálva.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.