Sok szervezet abból indul ki, hogy a szolgáltatói vagy felhasználói besorolás egyszeri: egy rendszert valahol beszereznek, és ezzel a szervezet szerepe meghatározott. A gyakorlatban ez árnyaltabb. Az Ön szerepe egy AI-rendszerhez viszonyítva attól függ, mit tesz vele, nem attól, honnan származik a rendszer. Ugyanaz a szervezet lehet felhasználó az egyik rendszernél, és — anélkül, hogy ezt bárki így megnevezte volna — szolgáltató a másiknál.
A kulcskérdés nem az, ki építette a rendszert, hanem ki hozza forgalomba vagy ki üzemelteti azt saját néven. Az a szervezet, amely egy készen kapott AI-rendszert vesz át és használ a saját folyamatában, általában felhasználó. Amint ugyanaz a szervezet módosít egy rendszert, továbbfejleszti, átcímkézi, vagy saját néven ajánlja fel másoknak, ez a kép megváltozik. A modell feletti ellenőrzés mértéke is szerepet játszik: ki határozza meg, milyen adatokkal történik a betanítás, ki állítja be a paramétereket, ki viseli a felelősséget a rendszer viselkedéséért a gyakorlati alkalmazás során. Ezekre a kérdésekre nem egyszer, a beszerzés pillanatában adják meg a választ, hanem folyamatosan relevánsak marad, amíg a rendszert használják.
A szervezet szerepe tehát nem rögzített besorolás, hanem a tényleges használat eredménye. Ez azt jelenti, hogy belső változások — egy meglévő rendszer új alkalmazása, a saját IT-részleg által végzett módosítás, egy AI-funkció továbbadása egy ügyfélnek vagy leányvállalatnak — megváltoztathatják a besorolást anélkül, hogy ezt formális döntés előzte volna meg. Mit jelent ez a gyakorlatban, és pontosan mikor változik meg valójában egy szerep, azt bővebben kifejti az a pillanat, amikor az Ön szerepe egy AI-rendszerhez viszonyítva megváltozik című oldal. Fontos, hogy ez a változás gyakran észrevétlen marad, mert osztályszinten történik, messze attól a helytől, ahol a szabályzatot meghatározzák.
Az a kérdés, hogy Ön szolgáltató vagy felhasználó, nem áll önmagában. Összefonódik azzal a kérdéssel, hogy egy alkalmazás milyen kockázati szintű, és azzal, hogy egy alkalmazás a szabályozás hatálya alá esik-e. Egy alacsony hatású rendszer, amelyet felhasználóként vesznek igénybe, más kezelést igényelhet, mint amikor ugyanaz a szervezet a rendszert tovább módosítja, és ezáltal közelebb kerül a szolgáltatói szerephez. Azt, hogy egy magasabb kockázati szint konkrétan mit jelent a saját szervezet számára, a magas kockázati szint jelentése a saját szervezet számára című oldal írja le. Az is igaz, hogy nem minden alkalmazás tartozik ugyanazon követelmények hatálya alá; hogy mely alkalmazások esnek ezen kívülre és ez mitől függ, arról mely alkalmazások esnek a hatályon kívül című oldalon olvashat.
Az, hogy ez a besorolás sok szervezet számára homályos marad, nem azért van, mert hiányoznak a szabályok. Az aktuális szöveg és a pontos kritériumok máshol találhatók, és nem változnak ettől az írástól. A probléma korábban keletkezik: ahhoz, hogy tudjuk, melyik szerep alkalmazandó, először azt kell tudni, mely AI-rendszereket használják valójában, ki használja őket, és milyen mértékű módosítással. Ez a felmérés a legtöbb szervezetnél hiányzik. Az IT által jóváhagyott eszközök hivatalos listája ritkán tükrözi azt, mi történik valójában. Az osztályok eszközöket vesznek használatba, modelleket módosítanak saját adatokkal, vagy egy AI-funkciót építenek be egy belső folyamatba, anélkül, hogy ezt bárhol központilag rögzítenék. Aki tudni akarja, hogy a szervezet szolgáltató vagy felhasználó, annak tehát először azt kell tudnia, mi működik éppen — és ez egy olyan kérdés, amelyre nem egy szabályzati dokumentum ad választ, hanem egy felmérés, amely bátran megkérdezi az embereket, mit használnak, anélkül, hogy ehhez elszámoltatást fűznének.
Mivel a szervezet szerepe formális döntés nélkül is megváltozhat, a vezetés és a felügyeleti szervek számára fontos, hogy a jelentések ezzel együtt mozogjanak. Egy olyan governance-megközelítés, amely statikus szerepmegosztásból indul ki, elmulasztja azt a pillanatot, amikor egy belső módosítás a szervezetet tényszerűen más helyzetbe hozza. Hogyan alakítható ki egy AI-szabályzat úgy, hogy az ilyen típusú változásokat láthatóvá tegye helyettesítés helyett elrejtse, és amelyet valóban elolvas az, aki felelős érte, azt egy AI-szabályzat, amely a gyakorlathoz illik, nem a fiókba kerül című oldal tárgyalja.
Az a kérdés, hogy szervezete szolgáltató vagy felhasználó, a felelősségről és a kötelezettségekről szól. Még nem mond semmit arról, mit jelent az AI a munka tartalma szempontjából: mely feladatokat vesz át, változtat meg vagy támogat. Ez a kérdés a szerepmeghatározás meghosszabbítása, de más nézőpontot igényel — nem a governance-t, hanem a munka tartalmát. A FTE TO AI munkaszkennere feladatonként kiszámítja, mely rész vehető át AI által, függetlenül attól, milyen szerepet tölt be a szervezet az alapul szolgáló rendszerhez viszonyítva.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.