Egy munkatárs beilleszt egy szövegrészt egy ingyenes chatablakba, mert az gyorsabban működik, mint a belső rendszer. Egy csapat előfizet egy AI-eszközre, mert egy hivatalos igény elbírálása hetekbe telne. Egy beszállító AI-funkciót ad hozzá egy szoftverhez, amelyet már évek óta használnak, anélkül hogy erről bármilyen beszélgetés zajlott volna. Senki ezek közül az emberek közül nem próbál semmit elrejteni. Csak a munkájukat próbálják elvégezni.
Ez az árnyék-AI lényege: nem akaratlanul keletkezik, hanem abból a résből, amely az emberek szükségletei és a formális folyamat által nyújtott lehetőségek között tátong. Amíg ez a rés létezik, az árnyék-AI folyamatosan újra keletkezik, függetlenül attól, hány szabályzatot írnak.
A legtöbb szervezetnek van egy listája a jóváhagyott szoftverekről. Ez a lista kiindulópont, nem a valóság tükörképe. Ami az emberek valójában használnak, az majdnem mindig megelőzi ezt: a kérdés, hogy hogyan előzheti meg, hogy vállalati adatok kerüljenek egy ingyenes chatablakba jól illusztrálja, milyen egyszerűen kerülhet egy eszköz teljesen a látókörön kívülre. Ugyanez érvényes egy osztályra, amely saját kezdeményezésből előfizetést köt, mert a szabályos út túl lassúnak tűnik, vagy egy böngészőbővítményre, amely hozzáférést kap az e-mailhez anélkül, hogy erre külön jóváhagyás létezne. Ezek közül a helyzetek közül semelyik nem szerepel egy IT-listán. Mégis léteznek.
Hajlamosak vagyunk az árnyék-AI-t végrehajtási problémaként kezelni: betiltani, blokkolni, szankcionálni. Ez ellentétes hatást ér el. Aki tudja, hogy egy őszinte válasz problémát okoz, többé nem ad őszinte választ. Az eszköz nem tűnik el, csak láthatatlanabbá válik. Pontosan az ellentéte annak, amire egy szervezetnek szüksége van.
Egy második ok, amiért ez nem oldódik meg önmagától: a meglévő governance gyakran olyan szoftverre épül, amelyet megvásárolnak és telepítenek, nem olyan szolgáltatásra, amelyet valaki megnyit egy böngészőben, és holnap megint elhagy. Egy próbaüzem, amelyet valaha ideiglenesnek szántak megmutatja, hogyan futhat tovább évekig valami kicsi, egy egyértelmű felülvizsgálati pillanat nélkül, anélkül hogy bárki felelősnek érezné magát érte. Egy olyan folyamat nélkül, amely szerkezetileg észreveszi ezt a fajta használatot, ez a radar alatt marad, bármennyire is jók a szándékok.
Az egyetlen mód, hogy megtudja, mi zajlik, az, hogy megkérdezi. Nem ellenőrzésként, hanem felméréseként. Azok a munkatársak, akik tudják, hogy egy őszinte válasz nem vezet egy HR-beszélgetéshez, meg is adják ezt a választ. Ez olyan hangnemet és folyamatot igényel, amely előre egyértelművé teszi: ez az áttekintés megszerzéséről szól, nem valaki felelősségre vonásáról.
Ehhez hozzátartozik az is, hogy figyelmet fordítunk arra, hogyan illesztik be az új folyamatokat a meglévők mellé. Egy második folyamat, amelyet a meglévő mellé helyeznek anélkül, hogy az elsőt módosítanák vagy visszavonnák, gyakran figyelmen kívül hagyják, egyszerűen azért, mert az emberek megtartják a szokásaikat. Egy felmérés, amely a munka mellett további kötelezettségként jelenik meg, ugyanezt a kezelést kapja.
Amint egyértelmű, mit használnak valójában, a következő kérdés következik: mit csinál az az eszköz, és milyen kockázat jár ezzel. Egy eszköz, amely belső használatra összefoglal szövegeket, mást igényel, mint egy eszköz, amely részt vesz az ügyfél-elfogadási döntésben vagy a személyzeti értékelésben. Ez a szerep és kockázati szint szerinti besorolás az, amely egy felmérést valami használhatóvá alakít: alapot, amelyre az igazgatóság, a CIO vagy a General Counsel támaszkodhat, hogy elmagyarázza, mi zajlik, és miért felelhet meg ez az elszámolhatóság követelményének.
Ez a governance-réteg csatlakozik ahhoz a kockázati struktúrához, amellyel a szervezet már rendelkezik, nem egy új, mellé állított kerethez. Azoknak a szabályoknak a tartalma, amelyeknek az AI-alkalmazásoknak meg kell felelniük, változik, és máshol tartják naprakészen; ami itt számít, az az, hogy a szervezetnek van egy működő módja arra, hogy tudja, mi működik, ki a felelős érte, és hogyan tehető ez bizonyíthatóvá az igazgatóság vagy a felügyeleti szerv felé.
Amint egyértelmű, milyen AI-t használnak valójában, és milyen kockázattal jár ez, természetesen felmerül egy másik kérdés: a munka mely részét vehetné át valójában egy AI-alkalmazás, és melyik részét nem. Ez más kérdés, mint a jóváhagyás és felügyelet kérdése, de logikusan következik belőle. Az FTE TO AI munkaszkennere feladatonként kiszámítja, mekkora rész vehető át AI által, azon alapulva, hogy egy funkció valójában mit tartalmaz. Ahol a Responsible AI Scan rendet teremt abban, mi már működik, a munkaszkenner feltárja, mi az, amit még el lehet érni.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.