Egy beszállító szállít egy könyvelőprogramot, egy HR-rendszert vagy egy ügyfélszolgálati eszközt. Van szerződés, adatfeldolgozási megállapodás, esetleg biztonsági audit. Aztán a beszállító egy frissítésben hozzáad egy AI-funkciót: automatikus osztályozás, szövegjavaslatok, egy chatbot, amelyet rászabadítottak az Ön adataira. A kiadási megjegyzések ezt fejlesztésnek nevezik. Az Ön szervezetében senkinek nem volt beleszólása, mert senki nem tudta, hogy jön.
Ez nem kivétel abban, hogyan szoftvert szállítanak. Ez lett a szokásos gyakorlat. A beszállítók AI-funkcionalitásban versenyeznek, és amilyen gyorsan lehet, beépítik azt, gyakran egy olyan előfizetés részeként, amelyet Ön már fizet. A kérdés, hogy ez a meglévő megállapodásaik körébe tartozik-e, ritkán kerül feltevésre azelőtt, hogy a funkció élesbe menne.
A beszerzési osztály beszerzéskor átvilágít egy beszállítót. Ezután a figyelem a számlára, az üzemidőre és a támogatásra terelődik. A funkcionális frissítések ezen a folyamaton kívül futnak, mivel karbantartásnak minősülnek, nem új beszerzésnek. Kinek kellene ezt jeleznie? A beszállító termékfejlesztésnek tekinti. A beszerző nem látja a frissítést, vagy látja, de úgy gondolja, hogy ez másra tartozik. A szervezetben a felhasználó leginkább azt veszi észre, hogy egy gomb valamivel okosabb dolgot csinál, és nem kérdezi meg, hogy áll-e mögötte egy nyelvi modell, amely az adatokat külsőleg kezeli.
A mintázat hasonlít arra, ami egy, az e-mailjéhez hozzáféréssel rendelkező böngészőbővítmény esetében történik: a hozzáférést olyan pillanatban adják meg, amikor senki nem gondolt AI-ra, és azután észrevétlenül aktív marad. Beszállítóknál a méretbeli probléma nagyobb, mert nem egy alkalmazottat érint, hanem egy teljes szervezetet, amely egyetlen szerződésen keresztül van kitéve.
Egy szerződéses rendelkezés, amely az AI-funkcionalitás bejelentési kötelezettségét kikényszeríti, új szerződéseknél segít. Meglévő szerződéseknél a rendelkezés nincs benne, és nem magától értetődő, hogy egy beszállító visszamenőleges hatállyal elfogadja azt. Ráadásul egy záradék nem oldja meg az észlelési problémát: ha senki nem ellenőrzi rendszeresen, hogy egy beszállító valójában mit adott hozzá, a bejelentés a beszállító önkéntes hajlandóságától marad függő.
Ami valóban működik, az egy rögzített pillanatfelvétel: időszakos felmérés arról, hogy minden kulcsfontosságú beszállító jelenleg milyen AI-funkcionalitást szállít, elválasztva attól, amit beszerzéskor felmértek. Ez nem jogi eszköz, hanem tényleges áttekintés, amelyet aztán szembesíteni lehet azzal a kockázati kategóriával, amelyben a beszállító az adott folyamatban működik.
Ugyanaz a dinamika, amely fenntartja az alkalmazottak árnyék-AI-ját, itt is érvényes, csak beszállítói szinten. Aki azt a kérdést teszi fel, hogy „ti itt használtok-e ehhez AI-t", őszinte választ akar, nem az ügyfélmenedzser védekező reakcióját. Ez azt jelenti, hogy a kérdést nem szerződésbontás előjátékaként kell feltenni, hanem egy rögzített folyamat részeként, amelyben a válasznak nincs következménye, csak besorolás. Nézze meg, hogyan működik ez olyan alkalmazottak esetében, akik egy senki által jóvá nem hagyott eszközt használnak: a hasznos információ csak akkor szabadul fel, ha a kérdésfeltevés elválik a büntetéstől.
A beszállítói lista kiindulópont, nem végpont. Minden olyan beszállítónál, amely hozzáfér gyártási adatokhoz, ügyféladatokhoz vagy személyzeti adatokhoz, releváns, hogy van-e már benne AI-funkcionalitás, mit tesz az a funkcionalitás az adatokkal, és hogy ez a felhasználás ugyanabba a kockázati kategóriába tartozik-e, mint amire a beszállítót eredetileg jóváhagyták. Egy beszállító, akit öt évvel ezelőtt alacsony kockázatúnak minősítettek, mert csak számlázott, most futtathat egy modult, amely a számlákat automatikusan osztályozza egy külsőleg betanított nyelvi modell alapján. Ez más kockázati kategória, még ha a számlán ugyanaz a név is szerepel.
Ez a felmérés nem különálló a szervezet AI-irányításának egyéb részeitől. Ugyanazt az osztályozást, amelyet belsőleg épített eszközökre vagy egy soha le nem kapcsolt kísérleti felállásra alkalmaznak, arra is alkalmazni kell, amit a beszállítók bevisznek. Egy áttekintés, egy kockázati skála, függetlenül attól, hogy az AI-t belsőleg építették, egy alkalmazott hozta be, vagy egy beszállító adta hozzá bejelentés nélkül.
Amint tisztázódik, milyen AI érkezik be a beszállítókon keresztül, egy további kérdés merül fel, amely túlmutat a kockázaton: mit tesz ez az AI valójában azzal a munkával, amelyet most emberek végeznek, és hol fedi ezt olyan feladatokkal, amelyek egyébként is szóba jönnek automatizálásra. Az FTE TO AI munkaelemzése feladatonként kiszámítja, hogy a munka mekkora része vehető át AI által, függetlenül attól, hogy melyik beszállító vagy melyik rendszer hajtja végre azt végül. Ez azt a felmérést, amely a kockázatnál kezdődik, felhasználhatóvá teszi a következő kérdéshez is: nem csak az, mi működik, hanem az, mit ér valójában a munka.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.