Egy AI-programvezető rendszerint egyetlen megbízást kap: gondoskodjon arról, hogy az AI-t adoptálják, hogy a csapatok gyorsabban dolgozzanak vele, hogy a program eredményeket mutasson fel. Ritkán jár mellé egy második megbízás: gondoskodjon arról, hogy mindaz, ami eközben létrejön, felelősségteljes legyen. Mégis mindkettő alapján kérik számon, amint valami elromlik. Ez a kockázatának a magja: felelős egy programért, amelynek a széleit nem ismeri.
Amit az adopcióval nyer — gyorsabb folyamatok, elégedett csapatok, egy látható megújulási sztori — azzal áll szemben, amit elveszít, ha valami elromlik: egy incidens egy eszközzel, amely nem volt a listáján, egy audit, amely olyan kérdéseket vet fel, amelyekre nincs válasza, egy vezetőség, amely megkérdezi, miért nem látta a program, mi zajlik már. Ez az aszimmetria törékennyé teszi a pozícióját, még akkor is, ha a program maga jól működik.
A kérdése nem az, hogy "mely AI-eszközöket hagytuk jóvá". Az a lista megvan, és gyakran rövidebb, mint a valóság. A kérdése ez: mit használnak a csapatok, amelyek nincsenek a listámon, és hogyan tudom ezt átláthatóvá tenni anélkül, hogy az emberek elrejtenék. Egy programvezető, aki adopciót akar ösztönözni, nem engedheti meg, hogy a felhasználók elrejtsék az eszközeiket egy korrekciótól való félelem miatt. Aki megkérdezi, mit használnak, és aztán problémát csinál belőle, a következő kérdésre már nem kap választ. A governance és az adopció itt egymás ellen dolgoznak, ha rosszul közelítik meg.
Egy válasz, amelyet nem fogad el, egy egyszerű blokád: "AI-használat jóváhagyás nélkül nem megengedett." Ez a válasz egy pillanatra kielégít egy auditort, de a használatot olyan helyekre helyezi át, amelyeket senki nem lát. Ez az ellentéte annak, amit egy programvezető el akar érni: azt akarja, hogy az AI-használat látható és irányított legyen, nem azt, hogy föld alá kerüljön. Egy tilalom, amely nem tartalmaz mechanizmust a jelentésre és a tanulásra, veszteség számára, még akkor is, ha papíron megfelelőnek hangzik.
Egy olyan választ sem fogad el, amely mindent egyformán kezel. Egy eszköz, amely belső használatra szöveget összefoglal, nem ugyanaz a kockázat, mint egy eszköz, amely automatikusan döntéseket hoz ügyfelekről vagy munkavállalókról. A szerep és a kockázati szint szerinti megkülönböztetés nélkül egy program nem tud priorizálni, és egy programvezető, aki nem tud priorizálni, nem tudja végrehajtani a megbízását.
Ami működik, az egy felmérés, amely azzal kezdődik, ami létezik, nem azzal, ami jóvá van hagyva. Ez azt jelenti, hogy kérdéseket kell feltenni a csapatoknak arról, mit használnak valójában, és ezt olyan módon kell tenni, amely nem jár számonkéréssel. Csak így kerül látótérbe az árnyék-AI — a formális eljárás nélkül bevezetett rendszerek, gyakran azért, mert megkönnyítették a munkát, és senki nem látott okot arra, hogy megvárja a jóváhagyást.
Ezután következik a besorolás: melyik alkalmazás érinti az ügyfeleket, melyik érinti csak a belső folyamatot, melyik hoz döntéseket ember közbeavatkozása nélkül. Ez a felosztás határozza meg, hol kell szigorúnak lennie a felügyeletnek, és hol maradhat könnyű. Ez a felosztás nélkül egy program mindent egyformán szigorúan vagy egyformán könnyedén kezel, és mindkettő probléma: az első lassítja az adopciót, a második felügyelet nélkül hagyja a kockázatokat.
Az azt követő governance-struktúrának illeszkednie kell ahhoz, ami már létezik a szervezeten belül — a meglévő kockázati bizottságokhoz, a meglévő jelentési vonalakhoz — nem egy új, párhuzamos körhöz. Ez az is, ahol egy programvezető megkülönböztethető a szervezet más szerepeitől: egy vezető azt akarja tudni, mit kell tudnia egy vezetőnek az AI-kockázatról a végső felelősség szintjén, egy CIO a rendszerek és a hozzáférés felől közelíti meg, ahogyan az mit kell tudnia egy CIO-nak az AI-kockázatról leírja, és egy General Counsel a felelősséget és a dokumentációs kötelezettséget nézi a mit kell tudnia egy General Counselnek az AI-kockázatról alapján. Egy programvezetőnek úgy kell kiszolgálnia ezt a három perspektívát, hogy közben nem veszíti el a saját feladatát — az adopciót.
Hogy mely konkrét kötelezettségek vonatkoznak melyik kockázati kategóriára, és milyen határidőkön belül, nem ennek az oldalnak a témája. Ez a szöveg változik, szigorodik, és máshol kap magyarázatot. Itt a mechanizmusról van szó: hogyan lát rá egy program arra, mi zajlik, hogyan fordítja ezt kockázati szintekre, és hogyan mutatja ezt ki bizonyíthatóan a vezetőség és a felügyelet felé, függetlenül attól, hogy a pontos szabályszöveg egy adott pillanatban mit ír elő.
Amint tisztázódik, mi zajlik, és ki felelős érte, egy másik kérdés adódik: mit hoz, ha ezt a munkát jól rendezik be. Ez egy olyan kérdés, amelyre feladatonként kell választ adni, nem szervezetenként. A FTE TO AI munkascanje ezen a szinten számítja ki, hogy a munka mely része vehető át AI által, így egy programvezető nem csak azt tudja, mi zajlik, hanem azt is, hol tesz valóban különbséget a kapacitás hozzáadása.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.