Egy csapat gyorsabban akar dolgozni, és bekapcsol egy AI-eszközt, többnyire azért, hogy valami konkrétat teszteljen: egy összefoglalót, egy első koncepciót, egy osztályozást. Nincs jóváhagyási folyamat, mert ez "még csak egy próba". A próba működik, vagy elég jól működik, és beleolvad a napi folyamatba anélkül, hogy bárki döntést hozott volna arról, hogy megtartják. Nem volt olyan pillanat, amikor valaki tudatosan választott: ezt felvesszük az AI-nyilvántartásunkba, ehhez kell egy tulajdonos, ez ebbe a kockázati szintbe tartozik. Csak egy kezdőpillanat volt, és az a pillanat beleíródik egy munkamódba, amelyhez senki többé nem nyúlt.
Egy próbabeállítás leállítása döntést igényel. A folytatás nem igényel semmit. Amíg senki nem jelent incidenst, vagy egy külső fél nem kér bizonyítékot a kontrollról, nincs ok visszatérni valamihez, ami már régen egyszerű munkává vált. Az eszközt használóknak nem érdekük, hogy felhívják rá a figyelmet: működik, időt takarít meg, és a bejelentés úgy érződik, mint annak a kockázata, hogy elveszik tőlük. Így egy ideiglenes megoldás strukturálissá marad, nem azért, mert senki nem tud róla, hanem mert senki nem teszi fel azt a kérdést, amely a lezáráshoz vezetne.
Logikusnak tűnik azt gondolni, hogy a jóváhagyott szoftverek listája ezt láthatóvá teszi. Az a lista azt mutatja, mit szereztek be, nem azt, mit használnak. Egy próbabeállítás gyakran ezen a csatornán kívül fut: egy ingyenes fiók, egy böngészőbővítmény, egy különálló előfizetés egy csapatkártyán. Ugyanez a mintázat jelenik meg egy böngészőbővítmény, amely hozzáfér az e-mailjéhez esetében, egy osztály saját előfizetéssel a központi beszerzésen kívül esetében, és a vállalati adatoknál, amelyeket egy ingyenes chatablakba illesztenek anélkül, hogy mögötte adatfeldolgozási feltételekkel rendelkező szerződés lenne. Ezek közül semelyik nem szerepel egy IT-listán, mivel semelyiket sem jelentették be projektként.
Az egyetlen mód arra, hogy megtudja, mi működik valójában, a kérdezés. Nem utólagos ellenőrzésként, hanem nyitásként: mit használ, mire, és mióta. Aki ezt a kérdést szankciók fenyegetésének hátterében teszi fel, nem kap választ, vagy csak hiányos választ kap. Azok a munkatársak, akik egy eszközt használnak, amelyet senki nem hagyott jóvá, az őszinteségnél csak veszíthetnek, és nincs mit nyerniük. Pontosan ez a feszültség kerül napvilágra azoknál a munkatársaknál, akik egy senki által jóváhagyott eszközt használnak: egy olyan meghívás nélkül, amelyre biztonságos válaszolni, a próbabeállítás a felszín alatt marad, és nem tűnik el, csak elhallgat.
Egy nyilvántartás, amely nem jár következményekkel a bejelentő számára, az első lépés, nem a végkövetkeztetés. A láthatóvá tétel után jön az osztályozás: mi ez, milyen szerepet tölt be egy folyamatban, és milyen kockázati szint illik hozzá. Egy összefoglaló eszköz belső feljegyzésekhez más rendszert igényel, mint egy eszköz, amely részt vesz az ügyfélelfogadásról vagy a személyzeti értékelésről szóló döntésben. Ennek az osztályozásnak a már meglévő kockázati struktúrához kell kapcsolódnia, nem egy új, mellette álló kerethez. Egy második, informális folyamat, amelyet a meglévő folyamat mellett figyelmen kívül hagynak, pontosan az, amiért egy második folyamat a meglévő mellett figyelmen kívül marad egy felismerhető mintázat: az emberek a kisebb ellenállású utat követik, és ez az út csak akkor válik láthatóvá, amikor valaki rákérdez.
Ezután jön a kérdés, hogy ki nézi még ezt. Egy próbabeállításnak, amelyet szabadon engedtek a napi munkában, többnyire már nincs tulajdonosa, aki az eredményeket megítélné, mielőtt felhasználnák. Itt válik relevánssá mit jelent a gyakorlatban az emberi felügyelet: nem absztrakt elvként, hanem konkrét kérdésként, hogy ki olvassa el a kimenetet, mielőtt az egy ügyfelet, egy dossziét vagy egy döntést érint.
Egy vezető, akit erről kikérdeznek — egy felügyeleti szerv, egy auditor, egy felügyelőbizottság —, két lehetőség közül választhat: mondhatja, hogy az áttekintés teljes, vagy mondhatja, hogy létezik a folyamat, amely azért van, hogy azt teljessé tegye és teljesen tartsa. A második lehetőség őszintébb, és hosszabb távon erősebb is, mert egy szervezet, amely aktívan nyilvántartást vezet, valami bizonyíthatót mutathat fel, még akkor is, ha a nyilvántartás még nincs kész. A lényeg nem az, hogy soha többé nem keletkezik jogosulatlan próbabeállítás. A lényeg az, hogy van egy mechanizmus, amely megtalálja azokat, mielőtt egy incidens tenné meg ezt önért.
Ha egyszer láthatóvá vált, milyen AI keletkezett tervezetlenül, gyakran felmerül egy másik kérdés: ha ez a csapat már ezt tette, anélkül, hogy bárki megszervezte volna, mi történne, ha valóban megszerveznénk? Ez más kérdés, mint a governance, és ez a FTE TO AI munkaszkennerének feladata, amely feladatonként kiszámítja, hogy a munka mely része vehető át ésszerűen az AI által. Míg ez az oldal leírja, hogyan szerezhet rálátást arra, mi működik már, az a szkenner leírja, mi épülhet fel még, ugyanazzal a szárazszemű pillantással a feladatokra és kockázatokra.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.