A szervezetek gyakran azt gondolják, hogy a szerepük rögzített: mi vagyunk a felhasználó, a beszállító az aanbieder (szolgáltató), kész. Ez a feltételezés rendszeresen nem igaz, vagy ma igaz, holnap már nem. Az a szerep, amelyet egy szervezet egy AI-rendszerhez képest betölt, nem a szervezet állandó tulajdonsága. Ez annak az eredménye, hogy mi történik a rendszerrel: ki készíti, ki módosítja, ki hozza forgalomba, és milyen néven. Ha ezen tényezők egyike megváltozik, akkor esetleg a szerep is megváltozik, és ezzel együtt az ehhez tartozó kötelezettségek is.
Ez azt jelenti, hogy a besorolás nem egy pillanatfelvétel. Egy szerep, amely a beszerzés idején helyesen volt megállapítva, egy évvel később helytelen lehet anélkül, hogy belsőleg tudatosan bármit is eldöntöttek volna.
A besorolás egy korlátozott számú tényezőtől függ, de ezek a tényezők nem mind a rendszert használó félnél helyezkednek el. Releváns többek között, hogy egy rendszert saját maga fejlesztettek-e ki vagy vásárolták be, hogy a beszerzett rendszert változatlanul vetik-e be vagy módosítják, és hogy a módosítás érinti-e a rendszer kockázati profilját. Releváns az is, hogy milyen néven kerül forgalomba egy rendszer: egy rendszer, amelyet saját márkanév alatt továbbértékesítenek vagy továbbfejlesztenek, más szerepet vonhat magával, mint egy külső termék változatlan futtatása. A két álláspont közötti pontos határvonal tekintetében releváns az a oldal, amely azt tárgyalja, mi változik, amikor egy szervezet egy beszerzett modellt saját maga módosít, és az alapkérdésre, hogy a két főszerep közül melyik alkalmazandó, ott van az a oldal, amely elmagyarázza, mitől függ pontosan a szolgáltató és a felhasználó közötti választás.
A besorolás tehát nem olyan dolog, amelyet egy szervezet egyszer megállapít, majd archivál. Ez egy olyan osztályozás, amelyet újra kell értékelni, amint a mögöttes tények megváltoznak.
Ha a szerep megváltozik, megváltozik az is, amit egy szervezettől elvárnak. Egy fél, amely tisztán felhasználó, más kötelezettségekkel bír, mint egy fél, amely (részben) felelős egy rendszer létrehozásáért. Ez nem csak a papírmunkát érinti. Érinti azt is, hogy a szervezetben hol kellene lennie egy rendszerért való felelősségnek, ki tesz erről jelentést, és milyen szintű felügyelet (menselijk toezicht) megfelelő.
Ez az elmozdulás továbbhat arra a kérdésre, hogy egy rendszert belsőleg milyen súllyal kell mérlegelni. Egy szerepváltozás oda vezethet, hogy egy rendszert, amelyet korábban kezelhetőnek tartottak, újra kell értékelni kockázati szint szempontjából — ez egy külön kérdés, amelyet az az oldal tárgyal, amely arról szól, mit jelent a magas kockázati szint a rendszert használó vagy szolgáltató szervezet számára. Fordítva, egy szerepváltozás oda is vezethet, hogy egy rendszer éppen bizonyos kötelezettségek hatályán kívülre kerül, vagy éppen azon belülre. Hogy pontosan mely alkalmazások esnek a hatályon kívülre, és melyek nem éppen, azt az az oldal tárgyalja, amely arról szól, milyen típusú AI-alkalmazások esnek a kötelezettségek hatályán kívülre.
A szerepváltozást okozó tényezők többnyire olyan szinten zajlanak, amelyre a vezetés, a jogi osztály vagy a kockázatkezelés nincs automatikus rálátással. Egy csapat, amely egy beszerzett modellt saját adatokon finomhangolt (finetuned). Egy osztály, amely egy külső chatbot-terméket saját termékneve alatt terjeszt tovább az ügyfelek felé. Egy integráció, amely egy beszállítói modellt saját szabályokkal kombinál, majd ezt a kombinációt kifelé kínálja. Ezen lépések közül semelyik nem fut automatikusan egy központi nyilvántartáson keresztül, és az engedélyezett eszközök IT-listája ezt a fajta módosítást többnyire nem rögzíti, mert a módosítást nem "új beszerzésként" azonosítják, hanem valami már jóváhagyott dolog módosításaként.
Ez az oka annak, hogy a szerepváltozások gyakran csak akkor válnak láthatóvá, amikor valami elromlik, vagy amikor kívülről elszámolást kérnek. A "mi a szerepünk ennél a rendszernél" kérdésre akkor visszamenő hatállyal adnak választ, olyan pillanatban, amikor a módosításra való mozgástér kisebb, mint amikor a kérdést korábban feltették volna.
Mivel a besorolás elmozdulhat, releváns a governance-munka tervezése szempontjából a különbségtétel abban, mi igényel jelenleg figyelmet, és mit kell hosszabb távon újra megítélni. Nem minden, amit egy szerepváltozás magával hoz, igényel azonnali intézkedést; egy része tervezhető. Hogy melyik rész az, és melyik nem várhat, azt az az oldal tárgyalja, amely arról szól, mit kell most kezelni, és mit lehet egy későbbi időpontra betervezni. A besorolási kérdés magának tömör összefoglalásához, a legfontosabb fordulópontokkal együtt, ott van az az oldal, amely részletesebben kitér azokra a pontos körülményekre, amelyek mellett egy szerep megváltozik.
Az a kérdés, hogy egy szervezet milyen szerepet tölt be egy AI-rendszerhez képest, közel áll egy másik kérdéshez, amely ritkán kap ugyanannyi figyelmet: a szervezetben a tényleges munka mekkora részét végzi már AI, mekkora részét terveznek AI-val elvégezni, vagy mekkora részét veszi már át anélkül, hogy valaki ezt rögzítette volna. Míg a szerepkérdés egy rendszerhez viszonyított felelősségről szól, a FTE TO AI munkafeladat-elemzése (werkscan) a feladatok elosztásáról szól magáról: feladatonként kiszámítják, mekkora rész vehető át AI által, függetlenül attól, hogy a szervezet formálisan milyen szerepet tölt be ennél. Ez a két kérdés érinti egymást, mert a feladatmegosztás eltolódása gyakran a szerep eltolódásának is az oka.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.