Nem minden AI-alkalmazás egy szervezetben igényel ugyanolyan sürgősséget. Egyes dolgok azonnali figyelmet igényelnek, mások beilleszthetők egy normál tervezési ciklusba. A probléma az, hogy ezt a besorolást ritkán teszik explicitté. Osztályozás nélkül minden ugyanolyan sürgősséget kap, vagy — gyakrabban — semmilyen sürgősséget nem kap.
A kérdés, hogy valami most szükséges vagy később is elvégezhető, nem preferencia kérdése. Számos tényezőtől függ, amelyek együttesen határozzák meg, hogy egy alkalmazás mennyire jelentős.
Az alkalmazás kockázati szintje az első tényező. Egy rendszer, amely emberekről hoz döntéseket — felvétel, hitelnyújtás, szolgáltatásokhoz való hozzáférés — másképp esik latba, mint egy eszköz, amely belső használatra szöveget összefoglal. Mit jelent pontosan a magas kockázati szint egy szervezet kötelezettségei szempontjából, és miért nem egyforma ez minden alkalmazásnál, azt a mit jelent a magas kockázati szint az Ön szervezete számára oldal írja le.
A szervezet szerepe a második tényező. Egy szervezet, amely egy AI-rendszert saját maga fejleszt vagy alakít át, más felelősséget visel, mint egy szervezet, amely egy kész rendszert vesz át és használ. Ez a szerep egyébként anélkül is megváltozhat, hogy ez tudatos döntésen alapulna: aki egy modellt finomhangol, átalakít vagy a tervezettől eltérően alkalmaz, ezáltal felhasználóból szolgáltatóvá válhat. Hol húzódik ez a határ, azt a mi változik, ha Ön maga alakít át egy modellt és a szolgáltató vagy felhasználó, mitől függ ez oldal magyarázza.
A harmadik tényező, hogy az alkalmazás a hatókörön belül esik-e. Nem minden rendszer, amelyet AI-nak neveznek, esik ugyanazon kötelezettségek alá; egyes alkalmazások kizártak, vagy enyhébb szabályozás alá esnek. Mely alkalmazások esnek a hatókörön kívül és miért, azt a mely alkalmazások esnek a hatókörön kívül oldal írja le.
Ez a három tényező — kockázati szint, szerep, hatókör — együttesen határozza meg, hogy egy alkalmazás hol helyezkedik el az idővonalon. Egy magas kockázatú alkalmazás, ahol a szervezet szolgáltatóként lép fel, más sürgősséget igényel, mint egy alacsony kockázatú alkalmazás, amely a közeljövőben lehet, hogy a hatókörön kívülre esik.
A besorolás nem végleges. Egy alkalmazás, amely ma kezelhetőnek számít, holnap már nem biztos, hogy az — nem azért, mert a szabályok változnak, hanem mert az alkalmazás maga változik. Egy modell, amelyet átalakítanak, egy rendszer, amely új feladatot kap, egy eszköz, amely belső pilóta projektből termelésbe kerül: ezen lépések bármelyike elmozdíthatja a szerepet vagy a kockázati szintet.
A szervezeti változások is szerepet játszanak. Egy fúzió, egy új beszállító, a használat kiterjesztése egy másik osztályra — mindezen események áthelyezhetnek egy korábban 'tervezhető' alkalmazást a 'most szükséges' kategóriába. Mikor változik meg egy szerep, és pontosan hol van ez a fordulópont, azt a mikor változik meg a szerepe, mitől függ ez oldal fejti ki.
Ez azt jelenti, hogy egyszeri besorolás nem elegendő. Amit ma tervezett napirendi pontként kezelnek, egy máshol a szervezetben történő változás miatt más súlyt kaphat. Egy rendszeres, periodikus felülvizsgálat ezért minden olyan besorolás része, amelynek helyt kell állnia — nem extra lépésként, hanem feltételként, hogy a besorolás aktuális maradjon.
Egy áttekinthető besorolás két ellentétes hibát kerül el. Az első az, hogy mindent sürgősként kezelnek, ami elmossa a prioritásokat, és a figyelem szétforgácsolódik olyan alkalmazásokon, amelyek alig hordoznak kockázatot. A második az, hogy semmit nem tekintenek sürgősnek, ami miatt a valós kockázatot hordozó alkalmazások évekig a radar alatt maradnak — gyakran azért, mert senki soha nem osztályozta őket.
Maga a besorolás nem egyszeri dokumentum, hanem olyan struktúra, amely együtt mozog a szervezettel. Áttekintést ad arról, mi igényel figyelmet rövid távon, mi illeszthető be egy rendszeres folyamatba, és — döntő módon — mit kell újra értékelni, amint a helyzet változik. Pontosan ezt a megkülönböztetést, és azt a kérdést, hogy mitől függ, a mi szükséges most és mi tervezhető be, mitől függ ez oldal fejti ki tovább.
Ez a besorolás feltételezi, hogy ismertek az összes létező alkalmazások. A gyakorlatban ez messze nem mindig van így. Az IT-n vagy a beszerzésen keresztül jóváhagyott rendszerek mellett gyakorlatilag minden szervezetben futnak olyan eszközök, amelyeket senki nem kért és senki nem regisztrált — egy táblázat-asszisztens itt, egy szöveggenerátor ott, olyan emberek által bevetve, akik egy problémát akartak megoldani, és nem akartak eljárást végigjárni. Ez az árnyék-AI nem jelenik meg az IT-listán, és aki úgy kérdez rá, hogy semmi nincs kockán a felhasználó számára, inkább kap őszinte választ, mint aki azonnal szankcióval fenyeget. Ez a leltár nélkül minden sürgősség szerinti besorolás csak a valóság egy részét osztályozza, nem az egészet.
Ez az oldal az osztályozásról szól: mi jelentős, mi kevésbé jelentős, mi igényel most figyelmet, és mi várhat. Egy másik, kiegészítő kérdés, hogy egy AI-alkalmazás egy feladaton belül tényleg mit eredményez. Az FTE TO AI munkaszkennere feladatonként kiszámítja, hogy a munka mekkora részét lehet AI-val átvenni, és ezzel konkrét képet ad a governance-besorolás mellé: nem csak azt, hogy egy alkalmazás kockázatot hordoz-e, hanem azt is, hogy mit ad hozzá a munkához magához.
A Responsible AI Scan fejlesztés alatt áll. Aki a leltárt, az osztályozást és a governance-készletet szeretné használni, amint elérhetővé válik, feliratkozhat a várólistára.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.