Egy modell, amelyet beszerez és módosítás nélkül használ, más helyzetet jelent, mint egy modell, amelyet finomhangol, saját adatokon újratanít, vagy más rendszerekkel összevon. Az ehhez kapcsolódó kérdés nem az, hogy ez megengedett-e, hanem az, hogy mit változtat ez az Ön szerepén. Ez az oldal leírja, mitől függ ez a besorolás. Az aktuális szabályozás tartalma máshol található; itt arról van szó, mi az a mechanizmus, amely meghatározza, mikor változik meg valami, és mit tesz Ön ezzel belsőleg.
Hogy egy modell módosítása megváltoztatja-e az Ön szerepét, számos tényezőtől függ, amelyeket helyzetenként kell megállapítania, nem egy fix határtól, amely minden modellre egyformán vonatkozik.
Ezek a tényezők együtt hatnak. Ezen pontok közül önmagában semelyik sem döntő; a kombináció határozza meg, hogy a módosítás megváltoztatja-e az Ön pozícióját.
Ha a módosítás elég jelentős, jellemzően nem csak a modell minősítése változik, hanem az is, mit várnak el a szervezettől: más dokumentáció, más belső felelősség, esetleg egy másik fél, aki az egészért felelősségre vonható. Ez a mechanizmus, valamint a különbség egy olyan fél között, aki csak használja a modellt, és egy olyan fél között, aki részben alakítja is azt, az a szolgáltató és a felhasználó közötti különbséget leíró oldalon van kifejtve. Az, hogy egy módosítás pontosan mikor elég jelentős ahhoz, hogy ezt a szerepet átfordítsa, olyan kérdés, amelyre rendszerenként külön választ kell adni; az ennek hátterében álló általános mechanizmus a szerepének megváltozásának pillanatáról szóló oldalon található.
Ennek az átfordulásnak a következményei viszont attól függnek, milyen kockázati szintet kap a módosított modell. Egy módosított modell, amely magas kockázatú kategóriába esik, más kötelezettségeket hoz magával, mint egy módosított modell, amely azon kívül marad. Az, hogy a magas kockázati szint a gyakorlatban mit jelent a belső folyamatok és a felügyelet szempontjából, a magas kockázati szint szervezetére gyakorolt következményeiről szóló oldalon van leírva. Fordítva is lehetséges, hogy egy módosítás éppen kívül tartja a rendszert a legsúlyosabb kategórián, vagy hogy az alkalmazási terület egyszerűen nem tartozik a szabályozás hatálya alá; hogy mely alkalmazások esnek a hatáskörön kívül és miért, a hatáskörön kívül eső alkalmazásokról szóló oldalon olvasható.
A modelleken végzett módosítások gyakran közel történnek a munkához: egy csapat, amely egy külső modellt finomhangol saját dokumentumokon, egy fejlesztő, aki két rendszert összekapcsol, egy osztály, amely egy chatbotot belső tudásbázisokkal táplál. Pontosan ezek azok a módosítások, amelyek nem egy központi beszerzési folyamaton keresztül futnak, és így nem kerülnek automatikusan egy informatikai listára. Aki tudni akarja, hogy és hol történik ez a szervezeten belül, annak meg kell kérdeznie — és ez csak akkor működik, ha a kérdés nincs összekötve egy elszámoltatással. Egy csapat, amely engedély kérése nélkül módosított egy modellt, ezt nem jelenti be, ha a válasz szankciót von maga után.
Mivel a módosítások besorolása nincs rögzítve, hanem helyzetenként kerül megállapításra, nem elég egyszer meghatározni, milyen szerepe van egy modellnek. Az első értékelés után történő módosításokat újra ugyanazoknak a kérdéseknek kell alávetni. Egy ezt támogató szabályzatnak közérthető nyelven kell leírnia, mikor kell jelenteni egy módosítást és kinek; hogy egy ilyen szabályzat hogyan marad olvasható, helyette egy olyan szöveg, amelyet senki nem néz meg, a valóban elolvasott AI-szabályzatról szóló oldalon van leírva. Ezenkívül fontos, hogy a módosításokról szóló döntéseket — ki adott jóváhagyást, milyen mérlegelés alapján, milyen kockázati szint lett az eredmény — egy olyan helyen rögzítsék, ahol visszakereshetők. Hogy egy ilyen rögzítés a gyakorlatban hogyan néz ki, az oversight-döntési listáról szóló oldalon olvasható.
Egy módosított modell besorolása meghatározza, mely kötelezettségek érvényesek, de nem mond semmit arról, hogy a modell a gyakorlatban mit tesz a munkával magával. Ehhez a kérdéshez — hogy egy feladat mely része kerül át az AI-hoz, mely része marad egy munkavállalónál, és mit mozdít el ebben egy módosítás — más szemléletre van szükség, mint egy kockázatértékelésre. Az FTE TO AI munkascanje feladatonként kiszámítja, a munka mely része vehető át AI által, függetlenül attól, hogy milyen irányítási szabályok vonatkoznak a modellre.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.