Ihmisen valvonta määritellään usein roolina: joku on vastuussa, nimi rekisterissä, ruksattu ruutu. Se on lähtökohta, ei itse mekanismi. Valvonta syntyy vasta kun on hetki, jolloin ihminen voi nähdä AI-sovelluksen tuloksen, ymmärtää sen ja ohjata sitä ennen kuin tulos päätyy jonnekin. Ilman sitä hetkeä nimi luokituksen alla on muodollisuus.
Toimiiko valvonta käytännössä, riippuu useista asioista, jotka eivät synny automaattisesti yhteen. Jonkun on oltava valtuutettu pysäyttämään tulos, ei vain tehtävällä katsoa sitä. On oltava aikaa katsomiseen, mikä tarkoittaa, että prosessia ei ole rakennettu niin, että AI-tulos on jo käsitelty ennen kuin tarkastus tapahtuu. Ja on oltava riittävä ymmärrys siitä, mitä sovellus tekee, jotta poikkeama voidaan tunnistaa. Tarkastaja, joka ei voi arvioida tulosta, ei harjoita valvontaa, ei myöskään silloin, kun rooli on muodollisesti osoitettu.
Tämä liittyy siihen, mitä AI-lukutaito tarkoittaa työntekijöillenne: valvonta ilman ymmärrystä taustalla olevasta sovelluksesta on valvontaa vain paperilla.
Hallintarakenne voi määrittää, kuka on vastuussa mistä, minkä riskitason sovellus saa ja mitkä vaiheet siihen liittyvät. Mitä rakenne ei tee, on takaa sitä, että tämä henkilö myös tosiasiallisesti arvioi tuloksen sillä hetkellä, kun sillä on merkitystä. Se on organisatorinen tosiasia, ei tekninen. Luokitus voi olla oikein ja valvonta voi silti olla tyhjä, koska henkilöllä, joka paperilla on vastuussa, ei ole aikaa, pääsyä tai tietoa arvioida tulosta.
Inventaario ja luokitus paljastavat, missä tämä riski on suurin: korkeamman riskitason sovelluksissa tai sovelluksissa, jotka ovat päätyneet käyttöön säännönmukaisen IT-prosessin ulkopuolelta. Jälkimmäinen ryhmä on usein vaikein, sillä sen, joka haluaa järjestää valvontaa jollekin, joka ei ole hallinnossa, on ensin löydettävä se. Tämä koskettaa kysymystä mitä tehdä työntekijöille, jotka käyttävät työkalua, jota kukaan ei ole hyväksynyt: varjo-AI:n valvonta alkaa siitä, että tunnustetaan sovelluksen olemassaolo, ei sen käytön rankaisemisesta.
Sovellus, joka on tänään valvonnan alla, voi olla huomenna muuttunut. Malli päivitetään, syötetiedot muuttuvat, tai käyttö organisaatiossa kasvaa yksinkertaisesta tehtävästä johonkin painavampaan. Valvonta, joka on rakennettu vuoden takaisen tilanteen mukaan, ei enää vastaa sitä, mitä nyt tapahtuu. Tämä on yksi syy siihen, että luokitus ei ole kertaluonteinen toimenpide; se, kuinka usein se on tehtävä uudelleen, riippuu riskitasosta ja siitä, missä määrin sovellus muuttuu, kuten on esitetty kohdassa kuinka usein luokitus on tehtävä uudelleen.
Tämä tarkoittaa myös, että rekisterillä on arvoa vain, jos sitä ylläpidetään. Inventaario, joka laadittiin ensimmäisen kartoituksen yhteydessä ja jota ei sen jälkeen päivitetä, antaa yhä epätarkemman kuvan siitä, missä valvontaa tarvitaan. Kysymys siitä, miten organisaatio pitää rekisterin ajan tasalla, on erillinen kysymyksestä, miten rekisteri on rakennettu, ja ansaitsee oman huomionsa: katso miten AI-rekisteri pidetään ajan tasalla.
Hallitus, jota pyydetään osoittamaan, että AI-käyttöä valvotaan, ei voi tyytyä roolilistaan. Todistettavuus vaatii jäljen: kuka on katsonut mitä tulosta, milloin, millä valtuudella ohjata sitä. Tämä jälki on merkityksellinen myös silloin, kun jotain menee pieleen. Kysymykseen siitä, kuka on vastuussa, kun AI-sovellus tekee virheen, ei vastata luokituksella yksinään, vaan todistettavalla valvonnalla, joka sitä seurasi. Näitä kahta asiaa sekoitetaan helposti, vaikka erottelu on merkityksellinen; katso kuka on vastuussa, kun AI-sovellus tekee virheen.
Valvonta koskee myös sitä, mitä sovellukseen syötetään. Työntekijä, joka liittää yritystietoja ilmaiseen chat-ikkunaan, sijoittaa nämä tiedot kaiken organisaation järjestämän valvonnan ulkopuolelle, riippumatta siitä, miten hyvin hyväksyttyjen sovellusten valvonta on järjestetty. Tämä on erillinen huomion aihe laajemman kysymyksen sisällä, käsitelty kohdassa mitä tehdä yritystiedoille ilmaisessa chat-ikkunassa.
Tämä sivu kuvaa, miten valvonta toimii mekanismina: kuka katsoo, milloin, millä valtuudella, ja miten se tehdään todistettavaksi. Sisällölliset normit, jotka määrittävät, milloin valvonta on pakollista, miten tiukkaa valvonnan on oltava riskikategorian mukaan, ja missä ajassa se on järjestettävä, eivät ole tässä. Tämä säädössisältö muuttuu ja sitä pidetään ajan tasalla muualla.
Tehtävän valvonnan järjestäminen on mielekästä vain, jos on selvää, mitä tehtävä tarkalleen tarkoittaa ja mikä osa siitä tehdään AI-sovelluksella. Tämä on eri kysymys kuin se, mikä rooli tai riskitaso sovelluksella on; kyse on itse tehtävästä, jaettuna vaiheisiin, jotka AI-sovellus voi ottaa hoitaakseen, ja vaiheisiin, jotka eivät sovi siihen. FTE TO AI:n työskan laskee tämän tehtävittäin, jotta näkyy, mikä osa työstä on siirrettävissä ja mikä osa on pidettävä ihmisen valvonnan piirissä.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.