Vezetőként nem Ön ellenőrzi, melyik AI-modell milyen kimenetet állít elő. Ön egy másik kérdést tesz fel: ha ez balul üt ki, meg tudom-e mutatni, hogy tudtunk róla, hogy megvizsgáltuk, és hogy tettünk valamit. Ez a kérdés vezetői jellegű, nem technikai. És az a válasz, amit nem fogad el, egy IT által jóváhagyott alkalmazások listája. Nem azért, mert az a lista helytelen, hanem azért, mert hiányos. Azt írja le, mit kértek engedélyeztetni, nem azt, mit használnak valójában.
A vezető számára a kockázat nem az, hogy egy munkatárs egy nyelvi AI-t használ egy koncepció megírásához. A kockázat az, hogy erről nem tud semmit mondani abban a pillanatban, amikor számít: egy incidensnél, egy felügyeleti kérdésnél, egy felelősségi ügynél. Ekkor az igazolhatóság az egyetlen, ami számít. Nem az, hogy tudhatta-e ezt akkoriban, hanem hogy meg tudja-e mutatni, hogy létezett egy struktúra, amely lehetővé tette a tudást. Az a vezető, aki azt mondja, "erre nem volt rálátásunk", más helyzetben van, mint az, aki azt mondja, "ez egy olyan kategóriába tartozott, amelyet tudatosan úgy kezeltünk". Az e két mondat közötti különbség az, amit ez a szken eredményez.
Nem az a cél, hogy minden AI-használatot betiltson vagy lelassítson. A munkatársak által önállóan bevezetett használat nagy része funkcionális és eredményt hoz. A vezető számára a nyereség nem ennek lefékezésében rejlik, hanem a megkülönböztetés képességében: ez alacsony kockázatú és folytatható, ez személyes adatokat vagy emberekről szóló döntéseket érint, és másképp kell kezelni, ez tisztázatlan és ki kell deríteni. E megkülönböztetés nélkül mindent egyformán kezel — és ez legtöbbször túl szigorú a többségre, és túl megengedő a kivételre, amelyik pedig igazán számít.
Az árnyék-AI nem szándékos ellenszegülésből keletkezik. Abból keletkezik, hogy egy munkatársnak volt egy problémája, és talált egy eszközt, amely megoldotta azt, anélkül hogy létezett volna egy igénylési folyamat, amely gyorsabb lett volna, mint az eszköz maga. Ezek az eszközök nem jelennek meg egy beszerzési listán. Csak akkor jelennek meg, amikor valaki rákérdez rájuk — és csak akkor, ha a kérdésfeltevés nem vezet azonnal szankcióhoz. Egy szervezetnek, amely látni akarja az árnyék-AI-t, először azt kell tisztáznia, hogy a jelzés nem kockázat. Ez vezetői döntés, nem technikai.
A Responsible AI Scan egy leltárral kezdődik arról, mit használnak valójában, függetlenül attól, mit engedélyeztek valaha. Ezután minden használatot besorolnak szerep szerint — ki használja, mire — és kockázati szint szerint. Ez a besorolás egy governance-készlethez vezet: egy módhoz, ahogyan minden kategóriával bánni kell, amely illeszkedik a szervezetében már meglévő kockázati struktúrához, helyett egy új keretrendszer mellé állítani. A szabályok tartalma önmagában — pontosan milyen kötelezettségek érvényesek, milyen határidőkön belül — másutt található; nem ez a szken fókuszpontja. Ez a szken a mechanizmusra fókuszál: tudni, mi zajlik, tudni besorolni, és tudni igazolni, hogy ezt megtette.
A szerep és kockázati szint szerinti besorolással egy felügyeleti szervnek, egy auditornak vagy egy felügyelőbizottságnak egy struktúrát tud megmutatni ígéret helyett. Meg tudja jelölni, mely kategóriák igényelnek figyelmet és melyek nem. Beszámolhat erről anélkül, hogy minden alkalommal újra el kellene magyaráznia, miért nem tudott valamiről. Ez más helyzet, mint reaktívan megmagyarázni, miért került be egy eszköz észrevétlenül.
Az AI-kockázatra vonatkozó kérdés funkciónként eltérően jelenik meg. Az, hogy mit kell tudnia egy CIO-nak az AI-kockázatról, rendszerekről és infrastruktúráról szól; az, hogy mit kell tudnia egy General Counselnek az AI-kockázatról, felelősségről és bizonyításról szól; az, hogy mit kell tudnia egy kockázatmenedzsernek az AI-kockázatról, arról szól, hogyan illeszkedik az AI-kockázat a meglévő kockázati taxonómiába. Vezetőként mindhárommal kapcsolatba kerül, de nem Ön az, aki elvégzi a besorolást — Ön az, akinek látnia kell tudnia, hogy ez megtörtént.
A Responsible AI Scan jelenleg épül. Most nincs olyan eszköz, amelyet elindíthat, és amelyből azonnal jelentés készül. Aki érdeklődik ez iránt, felírhatja magát a várólistára; nem kínálunk semmit, ami még nem létezik, és nem ígérünk semmit arról, mikor vagy milyen eredménnyel.
Mielőtt megállapíthatja, hogy az AI-használat kockázatos-e, gyakran hasznosabb megtudni, mit jelent az AI a munkában magában: melyik része a feladatnak átvehető, és melyik nem. Ez a kérdés közel áll a kockázati kérdéshez, de nem azonos vele — egy feladat, amelyet nagyrészt átvehet az AI, nem automatikusan kockázatos, és egy feladat, amelyre ez nem igaz, nem automatikusan biztonságos. Az FTE TO AI munkaszkenje feladatonként kiszámítja, mekkora része a munkának átvehető AI által, és ezáltal olyan alapot ad, amelyen a kockázati kérdés pontosabban feltehető, mint egy jóváhagyott alkalmazások listája alapján egyedül.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.