Egy AI-alkalmazás hibázik. Egy döntés nem helyes, egy tanács félrevezető, egy ügyfelet jogtalanul elutasítanak. A kérdés, amely ezután felmerül, nem csupán technikai jellegű. Ki láthatta volna ezt előre, ki kezelte a rendszert, és ki tudja megmagyarázni, miért úgy alkalmazták, ahogyan alkalmazták.
Ez a válasz nem létezik egy nyilvántartástól függetlenül. A felelősség feltételezi, hogy valaki tudja, hogy egy alkalmazás létezik, mire szolgál, és ki felelős érte. Ez az alap nélkül a felelősség kérdése retorikai: nincs senki, aki tudja, tehát nincs senki, aki elmagyarázhatja.
Egy Responsible AI Scan feltérképezi, mi működik, ki használja, és milyen kockázati szinttel jár ez. Ez egy kiindulópont, nem egy ítélet a felelősségről. A szkennelés egy alkalmazást szerep és kockázat szerint osztályoz; nem ítéli meg, hogy egy egyéni döntés helyes volt-e. Az az értékelés az incidenshez tartozik, nem az azt megelőző nyilvántartáshoz.
Amit a szkennelés viszont megtesz, az a struktúra biztosítása, amelyen belül ez az értékelés később elvégezhető. Ha ismert, ki szerezte be az alkalmazást, ki kezeli, és milyen célra hagyták jóvá, akkor van egy vonal, amelyre visszatérhetnek. Ha ez a struktúra hiányzik, a felelősség kérdése utólagos találgatásra korlátozódik.
A legtöbb szervezetnek van áttekintése a jóváhagyott szoftverekről. Ez az áttekintés csaknem sohasem teljes. A munkatársak olyan eszközöket használnak, amelyeket senki nem jelentett be, gyakran azért, mert a munka gyorsabban megy, és senki nem kérdezett rá. Ez nem eleve felelőtlen viselkedés; ez az, ami akkor történik, ha egy szervezet nem biztosít más utat.
Aki tudni akarja, mit használnak valójában, annak meg kell kérdeznie. És ez csak akkor működik, ha a kérdésnek nincs következménye. Amint egy munkatárs gyanítja, hogy egy őszinte válasz korrekciós beszélgetéshez vezet, a válasz elmarad. Mit tesz a munkatársakkal, akik olyan eszközt használnak, amelyet senki nem hagyott jóvá pontosan erről a mechanizmusról szól: a nyilvántartás annyira jó, amennyi bizalommal összegyűjtik.
Ehhez tartozik az a kérdés is, hogy mi történik a vállalati információval, amint azt egy külső ablakba beírják. Mit tesz a vállalati adatokkal egy ingyenes csetablakban egy olyan kockázatot ír le, amely függetlenül áll a rosszindulattól: valaki csak ellenőriztetni akar egy szöveget, és eközben beír olyat, amit nem lett volna szabad.
Egy governance-készlet, amely egy nyilvántartás után következik, meghatározza, ki hagy jóvá egy alkalmazást, ki gyakorol felügyeletet, és hogyan rögzítik ezt. Ez összekapcsolódik azzal a kockázati struktúrával, amellyel a szervezet már rendelkezik más területeken: ugyanazok a bizottságok, ugyanazok a jelentési vonalak, ugyanazok az eszkalációs útvonalak. Nem jön létre új apparátus a meglévő mellett; egy kategória kerül a már létezőhöz.
Ez bizonyíthatóságot eredményez: egy vezetőség megmutathatja, hogy megvizsgálták, osztályozták, és felügyeletet állítottak be. Nem eredményez garanciát arra, hogy egy alkalmazás soha többé nem hibázik. Ez két különböző dolog, és a szkennelés nem tesz kijelentést a másodikról. Amit eredményez, az egy alap, amelyen a vezetőség elmagyarázhatja, mit tettek, nem egy biztosítás arra, amit még megtörténhet.
Gyakran elkövetett hiba egy külön AI-folyamatot felállítani, a meglévő kockázati és megfelelőségi struktúrától elkülönítve. Ez a folyamat kezdetben figyelmet kap, majd háttérbe kerül, mert senki nem tart fenn folyamatosan egy második rendszert az első mellett. Miért hagyják figyelmen kívül a meglévő mellett álló második folyamatot elmagyarázza, hogy a meglévő struktúrákhoz való kapcsolódás nem hatékonysági kérdés, hanem feltétele annak, hogy valami fennmaradjon.
Ehhez az is hozzátartozik, hogy egy nyilvántartás egy pillanatfelvétel, nem egy végpont. Új alkalmazások jönnek hozzá, meglévők funkciója megváltozik, és egy besorolás, amely a bevezetéskor helyes volt, egy év múlva nem automatikusan helyes. Milyen gyakran kell újra osztályozni és hogyan tartja aktuálisan az AI-nyilvántartást leírja, mit igényel ez a karbantartás a gyakorlatban, és miért nem felel meg a valóságnak rövid időn belül egy nyilvántartás, amelyet egyszer állítottak össze.
Azok az emberek, akik ezekkel az alkalmazásokkal dolgoznak, ráadásul a megoldás részei, nem csupán egy kockázat, amelyet kezelni kell. Az, hogy a munkatársak mit értenek és mit nem az általuk használt rendszerekből, meghatározza, hogy egy governance-készlet a gyakorlatban jelent-e valamit. Mit jelent az AI-jártasság a munkatársai számára foglalkozik ezzel a szemponttal.
Aki egyszer tudja, milyen AI-alkalmazások működnek, és ki felelős értük, az természetesen egy következő kérdésbe botlik: a jelenleg manuálisan végzett munka mekkora része alkalmas valójában arra, hogy egy AI-alkalmazásra bízzák. Ez más kérdés, mint a felelősség, de ugyanarra a nyilvántartásra épül. A FTE TO AI munkaszkennelése feladatonként kiszámítja, hogy a munka mekkora része vehető át AI által, mint következő lépés azután, hogy tiszta, mi működik már, és ki dönt róla.
Az ezen az oldalon leírt szkennelés fejlesztés alatt áll. Aki érdeklődik iránta, feliratkozhat a várólistára; jelenleg még semmi olyat nem szolgáltatnak, amely nincs befejezve.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.