Sok organizáción belül létezik egy rögzített lista azokról az alkalmazásokról, amelyek "hatókörön kívülre" esnének. Egy szövegjavaslat egy szövegszerkesztőben, egy spamszűrő, egy chatbot, amely csak egy rögzített GYIK alapján válaszol. A feltételezés az, hogy ezek az alkalmazások túl kicsik, túl régiek vagy túl ártalmatlanok ahhoz, hogy a governance alá essenek. Ez a feltételezés néha helyes. Nem mindig helyes, és ritkán marad tartósan érvényes.
Az, hogy valami hatókörön kívül esik-e, nem a technológia tulajdonsága. Ez egy besorolás, amely abból következik, mit tesz a rendszer, kinek, és milyen hatással, ha valami rosszul megy. Ugyanaz a szövegjavaslat, amely ma hatókörön kívül esik, mert csak egy szót javasol egy munkavállalónak, holnap hatókörön belülre kerülhet, amint automatikusan lezár és elküld e-maileket beavatkozás nélkül.
Három tényező együtt határozza meg, hogy egy alkalmazás hatókörön belülre vagy kívülre esik.
Az első a funkció: hoz a rendszer döntést, vagy csak információt szolgáltat, amelyet egy ember értékel? Egy eszköz, amely rangsorolja a pályázókat, közelebb áll a hatókörhöz, mint egy eszköz, amely csak kereshetővé teszi az önéletrajzokat. Arról, hogy egy alkalmazás pontosan hol áll ezen a spektrumon és miért, olvashat a magas kockázati szint mit jelent az Ön organizációja számára elemzésben.
A második az organizáció saját szerepe. Aki egy rendszert megvásárol és változatlanul használ, más helyzetben van, mint aki maga építi, tanítja vagy módosítja. Ugyanaz az alkalmazás egy organizáció számára hatókörön kívül eshet, egy másik számára viszont nem, kizárólag azon alapulva, ki milyen felelősséget visel. Ez a megosztás részletesen ki van fejtve abban a kérdésben, hogy Ön szolgáltató vagy felhasználó, és megváltozik, amint valaki az organizációban módosít vagy újratanít egy modellt, ahogyan azt az leírja, mi változik, ha Ön maga módosít egy modellt.
A harmadik tényező az idő. Egy rendszer, amely most hatókörön kívül esik, egy évvel később már nem eshet, nem azért, mert a szabályok megváltoztak, hanem mert a használat megváltozott. Egy chatbot, amely információforrásként indult, kinőhet olyan rendszerré, amely panaszokat kezel. Egy csapat vagy osztály szerepe egy ilyen rendszerhez viszonyítva ezzel együtt elmozdul, és mikor történik ez, azt leírja az, hogy mikor változik meg az Ön szerepe és mitől függ ez.
Ennek a három tényezőnek a következménye, hogy a "hatókörön kívül" soha nem állandó státusz. Ez egy pillanatfelvétel, amelyet újra meg kell vizsgálni, amint egy rendszer funkciója megváltozik, amint az organizáció más szerepet kap az adott rendszerhez viszonyítva, vagy amint a használat kiterjed valamire, amit a beszerzéskor nem láttak előre.
Ez pontosan az a pont, ahol az árnyék-AI megzavarja a besorolást. Egy alkalmazás, amely az IT-listán "hatókörön kívül"-ként van feltüntetve, a gyakorlatban olyan módon használható, amely már nem felel meg ennek. Egy csapat, amely egy nyelvi modellt vet be az ügyfélkommunikáció fogalmazásához, esetleg arra is használja, hogy végleges válaszokat küldjön el anélkül, hogy ezt jelentené. A papíron szereplő besorolás és a gyakorlatban zajló használat ekkor eltér egymástól, és senki, aki csak a beszerzett licenceket nézi, nem látja ezt a különbséget.
Az egyetlen mód arra, hogy erre rálátást kapjunk, a kérdezés. Nem egy rendszertől, hanem azoktól az emberektől, akik használják azt. Ez csak akkor működik, ha a kérdezés nem egyenlő a felelősségre vonással: aki fél a következményektől, az igazítja a válaszát, vagy nem ad választ. Egy besorolás, amely kizárólag a beszerzett licenceken alapul, ezért szisztematikusan hiányzik azokból az alkalmazásokból, amelyek a gyakorlati használatból keletkeztek, és éppen ezek azok az alkalmazások, amelyekről senki sem tudja már, hogy még hatókörön kívül esnek-e, vagy már jócskán belül vannak.
Az a kérdés, hogy "ez hatókörön kívül esik-e", ezért nem válaszolható meg attól elszakítva, hogy mi pontosan történik, ki dönt erről, és mennyi ideje áll fenn ez a helyzet. Egy leltár, amely ezt a három tényezőt alkalmazásonként rögzíti, olyan besorolást eredményez, amely megfelel a valós helyzetnek, nem pedig annak a feltételezésnek, amellyel egy rendszert egykor beszereztek. Az, hogy ebből mi igényel figyelmet már most, és mi tervezhető nyugodtan, ugyanezektől a tényezőktől függ, és azt, hogy mi szükséges most és mi tervezhető tárgyalja.
Amint tisztázódik, mely alkalmazások esnek hatókörön belülre, és milyen szerepet játszik ebben az Ön organizációja, felmerül egy további kérdés, amely nem a governance-ről szól, hanem a munkáról: a feladat mely része kerül tulajdonképpen átvételre egy ilyen alkalmazás által, és mely része marad emberi munka? Erre a kérdésre a governance-scan nem ad választ. Erre a FTE TO AI munkaszkennere szolgál, amely feladatonként kiszámítja, hogy a munka mely része vehető át AI által, és így képet ad a besorolás mögött rejlő tényleges bevetésről.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.