Kennisbank

Mikor változik meg az Ön szerepe, és mitől függ ez

Sok organizáció abból indul ki, hogy a szerepe rögzített: felhasználói egy olyan rendszernek, amelyet egy szállító épített, és az ezzel járó kötelezettségek egyértelműek és tartósak. Ez a feltételezés gyakran helyes, de nem mindig. Az a szerep, amellyel egy organizáció rendelkezik egy AI-rendszerre nézve, nem egy rögzített megjelölés. Ez annak az eredménye, hogy a rendszerrel tényszerűen mi történik, és ez az eredmény elmozdulhat anélkül, hogy új szerződést kötnének vagy új beszerzést hajtanának végre.

Mitől függ a besorolás

Egy szerep besorolása néhány tényszerű elemtől függ, nem attól, hogy egy szállító hogyan nevezi el a rendszert, vagy hogy egy belső osztály hogyan pozicionálja azt belsőleg. Releváns többek között, hogy ki hozta forgalomba a rendszert, ki használja azt tényszerűen egy saját folyamaton belül, és ki alakította át a rendszert az átadás után. Számít az is, milyen név alatt kerül a rendszer a piacra, és hogy egy organizáció továbbadja-e a rendszert másoknak anélkül, hogy maga használná azt. Ezek az elemek együttesen határozzák meg, hogy egy organizáció szolgáltatóként, felhasználóként, vagy valahol a kettő között elhelyezkedő félként jár el.

Az oka annak, hogy ez a governance szempontjából releváns, az, hogy a szerep határozza meg, mely kötelezettségek melyik felet illetik. Egy organizáció, amely csak felhasználó, más felelősségekkel rendelkezik, mint egy organizáció, amely tényszerűen szolgáltatóként jár el. Az, hogy pontosan mit várnak el minden egyes szereptől, máshol van leírva; itt arról a mechanizmusról van szó, amely meghatározza, melyik szerep alkalmazandó, valamint arról, hogy jelezzük azt a pillanatot, amikor ez a mechanizmus más eredményt ad, mint korábban.

Mi változik, ha a helyzet megváltozik

Egy szerep nincs a rendszer teljes élettartamára kötve. Ahhoz van kötve, hogy egy adott pillanatban tényszerűen mi történik. Ez azt jelenti, hogy ugyanaz az organizáció ugyanazon rendszer esetében két különböző pillanatban más szerepbe kerülhet. Néhány helyzet, amikor ez megtörténik: egy csapat, amely egy beszerzett modellt saját adatokon finomhangol, egy osztály, amely egy rendszert újracímkéz és saját néven kínál más osztályoknak, vagy egy organizáció, amely egy eredetileg belső használatra szánt rendszert továbbad egy ügyfélnek vagy partnernek. Ezekben az esetekben mindegyikben elmozdul a tényszerű szerep, még ha kívülről kevés is változik.

Az, ami a gyakorlatban változik, nem elvont. Ez határozza meg, ki felelős a dokumentációért, kinek kell bizonyíthatóan igazolnia, hogy egy rendszer azt teszi, amit állít, és kinek kell reagálnia, ha valami elromlik. Arról, hogy pontosan mi változik, amikor egy modellt átalakítanak, bővebben olvashat a modell átalakítására vonatkozó oldalon. Ez az elmozdulás egyike a legvilágosabb példáknak arra, hogyan fordul át egy szerep anélkül, hogy tudatos döntés előzné meg.

Miért releváns ez a governance szempontjából

Az oka annak, hogy ez a téma nem csak jogilag, hanem organizatorikusan is releváns, az, hogy egy szerepváltozás gyakran észrevétlenül történik. Egy csapat, amely átalakít egy modellt, technikai fejlesztésre gondol, nem felelősségváltozásra. Egy osztály, amely egy eszközt továbbad egy másik osztálynak, kényelemre gondol, nem egy új, szolgáltatói szerepre. Az a governance, amely csak arra néz, mi lett beszerezve, szisztematikusan elmulasztja ezeket az elmozdulásokat.

Ez összefügg azzal a kérdéssel, hogy pontosan mely alkalmazások tartoznak egy szabályozás alá és melyek nem; ezt a határt a hatókör terjedelméről szóló oldal tárgyalja. Egy rendszer, amely a hatókörön kívül esett a beszerzés pillanatában, a hatókör alá kerülhet, amint az organizáció szerepe elmozdul. Ez azt jelenti, hogy nem elegendő egyszeri ellenőrzést végezni a beszerzésnél; az ellenőrzésnek együtt kell mozognia azzal, ami tényszerűen történik egy rendszerrel.

Egy alkalmazás kockázati szintje is elmozdulhat egy szerepváltozással együtt. Azt, hogy pontosan mit jelent egy magas kockázati szint egy organizáció kötelezettségei szempontjából, és mitől függ ez, a magas kockázati szint következményeiről szóló oldal ismerteti. Egy organizáció, amely egy szerepváltozás miatt hirtelen szolgáltatóként számít egy magas kockázati szintű rendszer esetében, más felelősségeket visel, mint amikor csak felhasználója volt ugyanannak a rendszernek.

Hogyan jelzi ezt egy organizáció

Ahhoz, hogy egy organizáció jelezni tudja a szerepváltozásokat, mielőtt azok problémává válnának, tudnia kell, milyen rendszerek léteznek, ki alakítja át azokat, és ki adja tovább kinek. Ez olyan felmérést igényel, amely túlmegy az IT által jóváhagyott listán, valamint egy állandó helyet, ahol az átalakításról, továbbadásról és újracímkézésről szóló döntéseket rögzítik. Egy ilyen állandó hely, és az ezzel kapcsolatos kérdések, az oversight-döntéslistáról szóló oldalon vannak leírva.

A Responsible AI Scan azért lett kialakítva, hogy ezeket az elmozdulásokat láthatóvá tegye: milyen rendszerek működnek tényszerűen, ki használja azokat, ki alakította át azokat, és milyen szerep következik ebből ebben a pillanatban. Az ezt támogató eszköz jelenleg épül; aki ezt szeretné használni, feliratkozhat a várólistára.

Egy szerepváltozás nem csak a governance-t érinti. Ha egy rendszer elmozdul egy elszigetelt segédeszköztől afelé, hogy strukturálisan átvesz egy feladat egy részét, akkor az a kérdés is megváltozik, hogy valójában mennyi munkát végez az a rendszer, és mennyi marad még az embereknél. A FTE TO AI munkaszkennere feladatonként kiszámítja, hogy a munka mekkora része vehető át az AI által, és így átláthatóvá teszi, hol esik egybe a governance-beli szerepváltozás a munka elosztásában bekövetkező tényszerű elmozdulással.