Mi áll azon a lapon, amelyet a vezetőség olvas

A kérdés, amely egy jelentést megelőz

Egy vezetőség, amely napirendre veszi az AI-t, rendszerint két fajta anyagot kap: egy vastag dossziét, amelyet senki nem olvas el az ülés előtt, vagy egy összefoglalót, amely olyan kevés mondanivalóval bír, hogy nem következik belőle döntés. Egy egyoldalas testületi jelentés nem a dosszié összefoglalója. Ez egy másik kérdés: mit kell tudnia egy vezetőnek ahhoz, hogy felelősséget vállalhasson, és mi a zaj.

Ez a megkülönböztetés nem lényegtelen. A legtöbb AI-jelentés, amelyet mi látunk, rendszereket számol össze. Egy lap, amely csak azt számolja, hány AI-alkalmazás van, semmit nem mond a vezetőségnek arról, hol van a kockázat. A számlálás egy IT-kérdés. A governance egy másik kérdés: mely alkalmazások érintenek emberekről szóló döntéseket, melyek kerültek bevezetésre felügyelet nélkül, és melyek tartoznak egy olyan kockázati osztályba, amely aláírást kíván.

Mi az, amit tartalmaznia kell

Egy lap, amely működik, korlátozott számú elemet tartalmaz, mindegyiknél megvan az ok, hogy miért szerepel:

Az inventárium állása. Nem a rendszerek listája, hanem egy állítás a lefedettségről: mi van feltérképezve, mi feltételezhetően jelen van, de nincs megerősítve, és mi maradt tudatosan hatókörön kívül.
A kockázati osztályozás nagy vonalakban. Hány alkalmazás tartozik egy olyan kategóriába, amely a vezetőség figyelmét kívánja, anélkül hogy minden rendszert kifejtenének.
Nyitott döntések. Nem az operatív végrehajtás, hanem az a kérdés, amely a vezetőség elé kerül: egy beruházás, egy kockázatelfogadás, egy választás a folytatás és a leállítás között.
Mi változott az előző jelentés óta. Egy vezetőségnek kevés hasznot hoz egy fénykép; egy különbségből viszont profitál.

A többi — ki képezett ki melyik modellt, melyik beszállító milyen feltételeket alkalmaz, milyen technikai mitigációt vezettek be — az alatta lévő rétegbe tartozik. Az a réteg létezik, karban van tartva, és lekérhető. De nem tartozik arra a lapra, amelyet a vezetőség olvas, mert akkor a vezetőség nem fogja elolvasni.

Miért hagynak figyelmen kívül egy második folyamatot

Az oka annak, hogy ennyi AI-governance elakad, nem az, hogy nincs folyamat. Az, hogy van egy második folyamat, a meglévő mellett. Egy vezetőségnek már van kockázati bizottsága, már van auditnaptára, már van formátuma az operatív kockázatról, a megfelelésről, az információbiztonságról szóló jelentéshez. Aki mellé egy külön AI-folyamatot állít — saját gyakorisággal, saját sablonnal, saját tulajdonossal —, olyat kér, amit elsőként hagynak ki, amikor a napirend túl teli. Ez nem rosszindulatból történik. Azért történik, mert egy második folyamat definíció szerint kevesebb figyelmet kap, mint az első.

A jelentés, amelyet valóban elolvasnak, az, amely a meglévő ritmusban halad tovább: ugyanaz az ülés, ugyanaz a formátum, ugyanaz az eszkalációs mód, amely már létezik más kockázatokhoz. Hogy ez a csatlakozás a gyakorlatban hogyan alakul, azt a meglévő kockázati struktúrához való csatlakozásról szóló lap írja le, és a mód, amellyel a döntéseket ezután rögzítik, visszatér a meglévő ritmusban haladó oversight-döntéslistáról szóló lapon.

Mit tesz fel a lap

Egy egyoldalas jelentés csak akkor használható, ha a mögötte álló inventárium helyes. Ez az a rész, amelyet a leggyakrabban hagynak ki: a vezetők egy lapot kapnak kockázati osztályozással, anélkül hogy bárki ellenőrizte volna, hogy az AI-alkalmazások mögöttes listája teljes-e. Az árnyék-AI — az a használat, amely az IT-listán kívül keletkezett — akkor csendben eltűnik a képből, nem azért, mert nem fontos, hanem azért, mert senki nem kérdezte róla. Egy alkalmazott, aki egy AI-eszközt használ anélkül, hogy azt jóváhagyták volna, nem jelenti ezt önként, ha leszámolás fenyeg. Csak akkor jelenti, ha a kérdéseket következmények nélkül teszik fel.

A lap egyik oldala tehát a csúcsa egy folyamatnak, amely az inventáriumnál kezdődik, és a már létező útvonalakon keresztül eszkalálódik. Hogy ez az eszkaláció hogyan működik anélkül, hogy új hierarchiát hozna létre, azt a valóban használt eszkalációs útvonalakról szóló lap írja le. És hogy strukturálisan mit kell nyomon követni ahhoz, hogy a lapot minden alkalommal újra ki lehessen tölteni anélkül, hogy rekonstrukcióvá váljon, azt a jelentéshez valóban hasznot hozó monitoringról szóló lap írja le.

Amit ez még nem jelent

A Responsible AI Scan biztosítja az inventáriumot, az osztályozást és a governance-struktúrát, amely csatlakozik a már meglévőhöz — beleértve a formátumot egy olyan jelentéshez, amelyet a vezetőség valóban elolvas. A scan maga még épül; aki most szeretne ebből hasznot húzni, feliratkozhat a várólistára.