A kérdés, hogy mely alkalmazások esnek hatályon kívülre, úgy hangzik, mintha egy listát kérnénk. Ez nem az. Hogy valami hatályon belül vagy kívül esik, egy besorolás, amely attól függ, mit tesz egy alkalmazás, milyen kontextusban, és kinek a számára. Ugyanaz a technológia egy alkalmazásban a látókörön kívül maradhat, egy másikban pedig teljes figyelmet kaphat. Ezért nem létezik rögzített lista a kizárt alkalmazásokról — viszont van néhány tényező, amely a besorolást meghatározza.
Az első tényező az alkalmazás funkciója: mit dönt el vagy mit tanácsol a rendszer, és kinek van ebből következménye. Egy eszköz, amely belső szöveget ír át, más helyzetben van, mint egy eszköz, amely közreműködik egy kérelem, egy állásra jelentkezés vagy egy kárigény eldöntésében. A második tényező az e funkcióhoz kapcsolódó kockázati szint: minél nagyobbak az emberekre gyakorolt következmények, egy alkalmazás annál inkább a spektrum súlyosabb része felé mozdul. A harmadik tényező a szervezet saját szerepe: aki egy rendszert csak használ, másképp ítélendő meg, mint aki azt módosítja, továbbtanítja vagy mások komponenseiből állítja össze. Hogy ez a szerepmegosztás pontosan mit jelent, és mikor mozdul el, azt a egy AI-rendszer szolgáltatója és felhasználója közötti megkülönböztetés és az a pillanat, amikor a felhasználói szerep egy másik felelősségbe megy át oldalak írják le.
Egy negyedik tényező technikai jellegű, de jogilag releváns: amit egy szervezet maga módosít egy meglévő modellen, néha megváltoztatja az adott szervezet helyzetét az összképben. Egy változatlanul beszerzett modell másképp illik a képbe, mint egy modell, amelyet saját adatokon finomhangolnak vagy saját folyamatba építenek be. Ezt a határt — hogy mikor jár a módosítás szerepváltozással — a mi változik, ha egy modellt maga módosít, mitől függ ez oldal tárgyalja.
Mivel a besorolás e tényezőktől függ, a hatály nem egy eszköz rögzített jellemzője, hanem egy eredmény, amely módosulhat. Egy chatbot, amely belső írási segédeszközként indult, amint ügyfélkérdésekre is válaszol, amelyek egy döntéshez vezetnek, a spektrum egy másik részébe kerülhet. Egy modell, amelyet készen kapható termékként vásároltak be, saját adatokon való módosítás után más szerepet hozhat magával a szervezet számára. Egy alkalmazás, amely ma alacsony hatásúnak számít, holnap súlyosabban eshet latba, mert megváltozott a kontextus, amelyben bevetik — más csapat, más döntés, más embercsoport, amelyet az eredmény érint.
Ez pontosan az, amiért egy egyszeri besorolás nem elegendő. Egy besorolás, amelyet a bevezetés pillanatában rögzítettek, semmit nem mond arról, mit tesz egy eszköz egy évvel később. Hogy mit kell ma hatály alá venni, és mi tervezhető későbbre, ez tehát maga is olyan kérdés, amely az aktuális helyzettől függ — ezt a a sorrend a között, ami most figyelmet kíván és ami később követhet oldal fejti ki.
A hatálybeli és hatályon kívüli besorolást egy gyakorlati probléma bonyolítja: a beszerzett vagy jóváhagyott eszközök hivatalos listája nem ugyanaz a lista, mint a tényleg használt eszközök listája. A csapatok AI-funkciókat vesznek használatba anélkül, hogy ezt egy igénylési folyamaton keresztül vezetnék — nem rosszakaratból, hanem azért, mert könnyen elérhető és megold egy problémát. Ez az árnyék-AI pontosan az a rész, amely lehetetlenné teszi a hatálybeli vagy hatályon kívüli besorolást, amíg senki nem tudja, hogy az alkalmazás létezik.
Aki ezt a képet teljessé akarja tenni, annak rákérdeznie kell — és úgy, hogy a kérdés ne tűnjön burkolt szemrehányásnak. Amint egy munkatárs feltételezi, hogy egy őszinte válasz szankcióhoz vezet, a válasz elmarad, és az eszköz a radar alatt marad. Egy leszámoltatásra épített leltár tehát definíció szerint hiányos képet ad — és egy hiányos kép minden hatálybeli besorolást ideiglenessé tesz.
Mivel a hatály elmozdulhat, a besorolás rögzítése legalább annyira fontos, mint a besorolás maga. Ki döntött úgy, hogy egy alkalmazás hatályon kívül esik, milyen információ alapján, és mely pillanatban — ezek a kérdések megválaszolhatatlanná válnak, amint a rögzítés hiányzik. Hogy egy szervezet hogyan teszi ezt a döntéstípust rendszerezhetővé és nyomon követhetővé, azt egy döntéslista, amely az oversight-döntéseket visszakövethetővé teszi oldal írja le, és hogy ez a besorolás felismerhetően visszatér-e abban a dokumentumban, amelyet a munkatársak valóban használnak, azt egy AI-szabályzat, amely illik ahhoz, amit az emberek valóban tesznek oldal.
A besorolási kérdés — mi esik hatály alá és mi nem — a kockázatról és a felelősségről szól, nem arról, mit jelent egy alkalmazás a munka szempontjából magában. Ez a második kérdés, hogy egy feladat pontosan mit engedhet át az AI-nak, egy különálló számítás. Az FTE TO AI munkascanje feladatonként kiszámítja, mekkora rész vehető át a munkából, függetlenül attól, hogy az adott alkalmazás hogyan kerül be a governance-besorolásba.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.