re-ai-gov Feliratkozás a várólistára

Kennisbank

Mi történik, amikor egy munkatárs megnyit egy ingyenes chatablakot

Az ablak, ami mindig nyitva áll

Egy munkatárs elakad egy szövegnél, egy összefoglalónál, egy kódrészletnél vagy egy e-mailnél, amely éppen nem sikerül jól. Van egy chatablak, ingyenes, azonnal elérhető, várakozás és űrlap nélkül. A szöveg bekerül, beleértve az ügyfél nevét, a szerződés összegét, a személyi anyagból származó részletet vagy a hozzá tartozó forráskódot. Megjön a válasz, a munka elkészül, az ablak bezárul. Erre senki nem kért engedélyt, és senki nem tagadta meg, mert senki nem tudott róla.

Ez nem egyedi eset. Ez egy előre látható mintázat, amely mindenhol felmerül, ahol a munkanyomás nagyobb, mint a kérdezés fáradsága. Egy határidő, egy üres válasz egy olyan kérdésre, amelyet a vállalat sem kifejezetten megengedett, sem megtiltott, és egy ingyenes eszköz, amely gyorsabb, mint a belső folyamat: ez a kombináció önmagában elvezet ehhez a viselkedéshez, függetlenül az ágazattól vagy a szervezet méretétől.

Miért nem tűnik el önmagától

Egy tilalom egy szabályzati dokumentumban semmit nem változtat azon a pillanaton, amikor a határidő szorít. A chatablak elérhető marad, a munkatárs nyomás alatt marad, és a mérleg a "gyorsan kész" és a "szabályok szerint" között gyakrabban dönt a gyorsan kész javára. Ez nem rosszindulat. Ez egy olyan szervezet, amely könnyebbé tette az ablak használatát, mint azt, hogy ne is kezdjen bele.

A mintázat nagyon hasonlít arra, ami akkor történik, amikor egy részleg saját előfizetést kötött: valaki meglát egy problémát, talál egy megoldást, amely a költségvetésen belül és jóváhagyási folyamat nélkül elérhető, és cselekszik. A különbség az, hogy egy chatablakhoz nincs szükség beszerzési sorra. Nincs feltűnő számla, nincs szerződés, amelynek jogi osztályon kell átmennie, nincs előfizetés, amely egy áttekintésben szerepel. A használat nem hagy nyomot, kivéve egyetlen munkatárs böngészési előzményeiben, és néha még ott sem.

Ennek következtében ez tovább él minden hivatalos folyamat mellett, amelyet a szervezet valójában kialakított. Aki jóváhagyott alternatívát épít, de nem blokkolja vagy teszi vonzatlanná az ingyenes ablakot, pontosan azt a hatást látja, amely akkor is fellép, amikor egy második folyamatot a meglévő mellett figyelmen kívül hagynak: az új rendszert nem használják, mert a régi gyorsabbnak érződik, vagy egyszerűen ez a megszokás.

Amit egy informatikai lista nem mutat meg

A jóváhagyott szoftverek jegyzéke azt mutatja, mit szereztek be. Semmit nem mond arról, mit használnak. Egy chatablak egy böngészőfülön, egy levelezéshez hozzáféréssel rendelkező böngészőbővítmény, egy AI-funkció, amely valahol mélyen egy meglévő előfizetésben megjelent: ez a fajta használat minden beszerzési folyamaton kívül keletkezik, és ezért nem jelenik meg azon a listán, amelyet az informatika kezel. A lista nem hibás, csak nem teljes, és a kettő közötti különbség pontosan az, ahol az árnyék-AI él.

Az egyetlen módja annak, hogy megtudjuk, mi történik valójában, a kérdezés. Nem ellenőrzésként, nem egy szankció előjeleként, hanem olyan kérdésként, amelyre őszinte válasz adható. Aki érzi, hogy a "milyen eszközöket használ a jóváhagyott rendszerek mellett" kérdésre adott válasz egy vezetővel folytatott beszélgetéshez vezet, nem adja meg azt a választ. Ekkor a szervezet attól függ, mi tűnik fel véletlenül: egy számla, amely kicsit eltér, egy kolléga, aki véletlenül megemlíti, vagy egy ügyfél panasza, akinek adatai valahol felbukkantak, ahol nem lett volna szabad.

Boszorkányüldözés nélküli feltérképezés

Egy leltár, amely szemrehányással kezdődik, nem leltárt eredményez, hanem csendet. Azok a munkatársak, akik tudják, hogy egy őszinte válasz problémát okoz, egyszerűen inkognitó módban nyitják meg az ablakot. A cél nem a tegnapi viselkedés megbüntetése; a cél egy aktuális kép megszerzése arról, mi működik most, ki használja és mire, hogy ez a használat helyet kapjon a meglévő kockázatkezelési keretben, ahelyett hogy mellette maradna.

Ez igaz az olyan AI-ra is, amely nem egy chatablakon, hanem egy szállítón keresztül kerül be. Amikor egy szállító AI-t épített be egy már használatban lévő termékbe, az adatkezelés jellege megváltozik anélkül, hogy új szerződést írtak volna alá. És egy jól működő próbaüzem ritkán zárul le formálisan: az tovább fut, még azután is, hogy egy próbaüzemet soha nem kapcsoltak ki, miközben senki sem tudja már, ki felel érte. Mindhárom esetben nem rosszindulatról van szó, hanem egy résről a jóváhagyott és a működő dolgok között. Az, hogy a felügyelet a gyakorlatban hol ölt formát ilyen helyeken, azt a mit jelent az emberi felügyelet a gyakorlatban oldal tárgyalja; a szabály tartalma önmagában máshol van, és ez ezen nem változtat.

Amit ezután lehet áttekinteni

Amint tisztázódik, milyen AI-t használnak valójában, egy másfajta kérdés merül fel: a munka mekkora része, amely most egy ingyenes chatablakon keresztül folyik, tartozik valójában olyan feladathoz, amelyet az AI strukturáltan átvehet, és mekkora rész nem. Ezt a különbséget teszi átláthatóvá az FTE TO AI munkaszkennere: ez feladatonként kiszámítja, hogy a munka mekkora része vehető át AI által, így a most egy böngészőablakban rejtőző használat olyan helyet kaphat, amely megfelel annak, amit a munka valójában megkíván.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.