Kennisbank

Milloin roolinne muuttuu, ja mistä se riippuu

Monet organisaatiot olettavat, että niiden rooli on kiinteä: ne ovat käyttäjiä järjestelmässä, jonka toimittaja on rakentanut, ja siihen liittyvät velvoitteet ovat selkeät ja pysyvät. Tämä olettamus pitää usein paikkansa, mutta ei aina. Rooli, joka organisaatiolla on AI-järjestelmän suhteen, ei ole pysyvä nimike. Se on seurausta siitä, mitä järjestelmällä tosiasiallisesti tehdään, ja tämä seuraus voi muuttua ilman, että allekirjoitetaan uusi sopimus tai tehdään uusi hankinta.

Mistä luokittelu riippuu

Roolin luokittelu riippuu joukosta tosiasiallisia tekijöitä, ei siitä, miten toimittaja kutsuu järjestelmää tai miten sisäinen osasto asemoi järjestelmän sisäisesti. Merkityksellistä on esimerkiksi kuka on tuonut järjestelmän markkinoille, kuka järjestelmää tosiasiallisesti käyttää omassa prosessissaan, ja kuka on muokannut järjestelmää sen toimituksen jälkeen. Merkitystä on myös sillä, millä nimellä järjestelmä tuodaan ulos, ja siitä, jakaako organisaatio järjestelmää edelleen muille käyttämättä sitä itse. Näiden tekijöiden yhdistelmä määrittää, toimiiko organisaatio tarjoajana, käyttäjänä tai osapuolena, joka asettuu näiden väliin.

Syy siihen, miksi tämä on hallinnoinnin kannalta merkityksellistä, on se, että rooli määrittää, kenelle mitkä velvoitteet kuuluvat. Organisaatiolla, joka on vain käyttäjä, on erilaiset vastuut kuin organisaatiolla, joka tosiasiallisesti toimii tarjoajana. Se, mitä tarkalleen odotetaan jokaiselta roolilta, on kuvattu muualla; tässä käsitellään mekanismia, joka määrittää, mikä rooli on sovellettavissa, ja sen hetken tunnistamista, jolloin tämä mekanismi tuottaa erilaisen lopputuloksen kuin aiemmin.

Mikä muuttuu, kun tilanne muuttuu

Rooli ei ole sidottu järjestelmään sen koko elinkaaren ajaksi. Se on sidottu siihen, mitä tiettynä hetkenä tosiasiallisesti tapahtuu. Tämä tarkoittaa, että sama organisaatio voi samalle järjestelmälle kahtena eri hetkenä asettua eri rooliin. Muutamia tilanteita, joissa näin tapahtuu: tiimi, joka hienosäätää ostettua mallia omalla datalla, osasto, joka nimeää järjestelmän uudelleen ja tarjoaa sitä omalla nimellään muille osastoille, tai organisaatio, joka jakaa alun perin sisäiseen käyttöön tarkoitetun järjestelmän edelleen asiakkaalle tai kumppanille. Kaikissa näissä tapauksissa tosiasiallinen rooli muuttuu, vaikka ulkoisesti muuttuisi vain vähän.

Se, mikä käytännössä muuttuu, ei ole abstraktia. Se määrittää, kuka on vastuussa dokumentaatiosta, kenen on osoitettava, että järjestelmä tekee sitä, mitä sen väitetään tekevän, ja kenen on reagoitava, jos jotain menee pieleen. Lisää siitä, mitä tarkalleen muuttuu, kun mallia muokataan, on kuvattu sivulla mallin muokkauksista. Tämä muutos on yksi selkeimmistä esimerkeistä siitä, miten rooli kääntyy ilman, että sitä edeltää tietoinen päätös.

Miksi tämä on merkityksellistä hallinnoinnin kannalta

Syy siihen, että tämä aihe on merkityksellinen ei vain oikeudellisesti, vaan myös organisatorisesti, on se, että roolin muutos tapahtuu usein huomaamatta. Tiimi, joka muokkaa mallia, ajattelee teknistä parannusta, ei muutosta vastuussa. Osasto, joka välittää työkalun toiselle osastolle, ajattelee käytännöllisyyttä, ei uutta roolia toimittajana. Hallinnointi, joka tarkastelee vain sitä, mitä on hankittu, jättää näitä muutoksia systemaattisesti huomaamatta.

Tämä liittyy kysymykseen siitä, mitkä sovellukset tarkalleen kuuluvat sääntelyn piiriin ja mitkä eivät; tätä rajaa käsitellään sivulla sovellusten soveltamisalasta. Järjestelmä, joka jäi soveltamisalan ulkopuolelle hankintahetkellä, voi tulla soveltamisalan piiriin, kun organisaation rooli muuttuu. Tämä tekee siitä, että ei riitä tarkastaa asiaa kertaalleen hankinnan yhteydessä; arvioinnin on liikuttava sen mukana, mitä järjestelmällä tosiasiallisesti tehdään.

Myös sovelluksen riskitaso voi muuttua roolin muutoksen mukana. Se, mitä korkea riskitaso tarkalleen tarkoittaa organisaation velvoitteiden kannalta, ja mistä se riippuu, on selitetty sivulla korkean riskitason seurauksista. Organisaatio, joka roolin muutoksen seurauksena äkkiä katsotaan korkean riskitason järjestelmän tarjoajaksi, kantaa erilaisia vastuita kuin silloin, kun se oli vain kyseisen järjestelmän käyttäjä.

Miten organisaatio tunnistaa tämän

Jotta organisaatio voi tunnistaa roolin muutokset ennen kuin niistä tulee ongelma, sen on tiedettävä, mitä järjestelmiä on olemassa, kuka niitä muokkaa, ja kuka välittää niitä eteenpäin kenelle. Tämä vaatii inventaarin, joka ulottuu pidemmälle kuin IT:n hyväksymä lista, ja kiinteän paikan, jossa muokkaus-, välitys- ja uudelleennimeämispäätökset kirjataan. Tällainen kiinteä paikka, ja siihen liittyvät kysymykset, on kuvattu sivulla valvontapäätösten luettelosta.

Responsible AI Scan on rakennettu tekemään näistä muutoksista näkyviä: mitkä järjestelmät tosiasiallisesti ovat käytössä, kuka niitä käyttää, kuka on muokannut niitä, ja mikä rooli siitä seuraa juuri tällä hetkellä. Tätä tukeva työkalu on rakenteilla; ne, jotka haluavat hyödyntää sitä, voivat ilmoittautua jonotuslistalle.

Roolin muutos ei koske vain hallinnointia. Kun järjestelmä muuttuu irrallisesta apuvälineestä johonkin, joka pysyvästi ottaa haltuunsa osan tehtävästä, muuttuu myös kysymys siitä, kuinka paljon työtä kyseinen järjestelmä oikeastaan tekee ja kuinka paljon jää ihmisille. FTE TO AI:n työskenn laskee tehtäväkohtaisesti, kuinka suuri osa työstä on siirrettävissä AI:lle, ja tekee näin näkyväksi, missä hallinnoinnin roolimuutos osuu yhteen työn jakautumisen tosiasiallisen muutoksen kanssa.