Egy AI-rendszer beszerzése és annak úgy használata, ahogyan azt szállítják, más helyzet, mint egy modell hozzáigazítása a saját adataihoz vagy céljához. Ez a módosítás megváltoztathatja a szervezetének besorolását — és ezzel azokat a kérdéseket, amelyekre válaszolnia kell tudnia. Hogy ez megtörténik-e, és milyen súllyal, attól függ, mit módosítanak pontosan, és mire használják a rendszert.
A besorolás nem attól függ, hogy Ön írta-e a forráskódot. Attól függ, mi történik tényszerűen egy modellel, miután az Önhöz kerül. Néhány tényező, amely szerepet játszik:
Ezek a tényezők együtt hatnak. Nincs egy rögzített küszöb, amely minden esetben érvényes; a pontos kritériumokat tartalmazó aktuális szabályozás máshol található, és az a szöveg módosulhat. Amit ez az oldal rögzít, az a mechanizmus: a módosítás szerepváltást okozhat, és a szerep határozza meg a kötelezettséget.
A szerep, amelyet szervezete egy AI-rendszernél betölt, nem rögzített. Aki egy modellt csak úgy használ, ahogyan azt szállítják, jellemzően más helyzetben van, mint aki a modellt módosítja, majd azt maga forgalomba hozza vagy belsőleg nagy léptékben bevetik. Az a kérdés, mikor történik meg ez az átmenet, és mi változik ekkor abban, amit igazolnia kell tudnia, a mikor változik a szerepe, és hol húzódik ez a határ oldalon kerül tárgyalásra. Azon szervezetek számára, amelyek nem biztosak abban, hogy szolgáltatók vagy felhasználók — ez gyakrabban felmerülő kérdés, mint gondolnák, amint belső módosítás történik — külön magyarázat található a szolgáltató és felhasználó közötti különbség egy AI-rendszernél oldalon.
Az ok, amiért ez számít, nem formális jellegű. A szerep megváltozása megváltoztatja azt, amit meg kell tudnia mutatni: milyen dokumentációt vezet, ki felelős a szervezeten belül a felügyeletért, és milyen lépéseket tettek, mielőtt a módosított rendszer üzembe állt. Egy modell, amelyet Ön maga módosított, olyan modell, amelynél Öntől is elvárható, hogy elszámoljon arról, hogyan jött létre az adott módosítás.
A módosítás az alkalmazás kockázati szintjét is befolyásolhatja. Egy modell, amelyet eredetileg egy alacsonyabb kockázatú alkalmazásra szántak, módosítás révén egy súlyosabb kategóriába kerülhet — például amikor módosítás után emberekről szóló döntésekhez vetik be. Azt, hogy egy magas kockázati szint konkrétan mit jelent a szervezete kötelezettségeire nézve, a mit jelent egy magas kockázati szint a szervezete követelményeire oldal tartalmazza. Itt is igaz: a besorolás a használatból következik, nem abból a szándékból, amellyel a modellt egykor megépítették.
Ez közvetlenül összefügg az árnyék-AI lényegével. Egy módosítás, amely nem az IT-n keresztül zajlik — egy csapat, amely egy modellt maga finomhangol egy saját adatkészleten, vagy egy részleg, amely egy külső modellt belső rendszerekhez kapcsol anélkül, hogy ezt jelentették volna — megváltoztatja szervezete besorolását anélkül, hogy erről a vezetés tudna. Az IT-lista nem mutatja ezt a módosítást. Aki tudni akarja, hogy ez megtörténik-e, meg kell kérdeznie azokat a csapatokat, amelyek napi szinten dolgoznak vele, és ez a beszélgetés csak akkor hoz eredményt, ha számonkérés nélkül zajlik.
Amikor egy módosítás megváltoztatja egy alkalmazás szerepét vagy kockázati szintjét, egyszerre több dolog is megváltozik: a vezetendő dokumentáció, az a kérdés, ki a tulajdonosa a szervezeten belül az adott alkalmazásnak, és az a pillanat, amikor valami még tervezhető, szemben azzal, ami már figyelmet igényel. Ez a megkülönböztetés — aközött, ami már most sürgős, és aközött, ami betervezhető — olyan tényezőkkel függ össze, amelyeket a mi igényel már most figyelmet, és mi tervezhető be még oldal tárgyal. A besorolási kérdés magának bővebb kifejtése, beleértve a gyakorlatban leggyakrabban előforduló határeseteket, a teljes magyarázat arról, mi változik egy modell saját módosításánál oldalon található.
Egy módosított modell a gyakorlatban gyakran olyan modell is, amely átvesz egy részt a munkából olyan emberektől, akik korábban egy feladatot teljesen maguk végeztek. Hogy ez így van-e, és hogy a munka mekkora részét érinti, olyan kérdés, amely elkülönül a besorolási kérdéstől, de gyakran azt követi: amint kiderül, hogy egy modellt módosítottak, és mire vetik be, az is láthatóvá válik, hogy egy feladat mekkora részét végzi el az valójában. Az FTE TO AI munkascanje ezt feladatonként kiszámítja, és megmutatja, hogy a munka mekkora részét lehet AI-ra átvenni, függetlenül attól, hogy az alapul szolgáló modell hogyan jött létre.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.