Hallituksen jäsenenä ette itse tarkista, mikä tekoälymalli tuottaa mitä tulostetta. Esitätte toisenlaisen kysymyksen: jos tämä menee pieleen, voinko osoittaa, että tiesimme siitä, että olemme tarkastelleet sitä, ja että olemme tehneet jotain. Tuo kysymys on hallinnollinen, ei tekninen. Ja vastaus, jota ette hyväksy, on IT:n hyväksymien sovellusten lista. Ei siksi, että lista olisi virheellinen, vaan siksi, että se on puutteellinen. Se kuvaa, mitä on pyydetty, ei mitä käytetään.
Hallituksen jäsenen riski ei ole se, että työntekijä käyttää kielimallia luonnoksen kirjoittamiseen. Riski on se, ettette voi sanoa siitä mitään sillä hetkellä, kun sillä on merkitystä: poikkeamatilanteessa, valvontakysymyksessä, vastuukysymyksessä. Silloin ainoa, mikä ratkaisee, on osoitettavuus. Ei se, olisitteko voineet tietää sen tuolloin, vaan se, voitteko osoittaa, että oli olemassa rakenne sen tietämiseksi. Hallituksen jäsen, joka sanoo "emme nähneet sitä", on eri asemassa kuin hallituksen jäsen, joka sanoo "se kuului kategoriaan, jota käsittelimme tietoisesti tietyllä tavalla". Näiden kahden lauseen ero on se, mitä tämä kartoitus tuottaa.
Tarkoituksena ei ole kieltää tai hidastaa kaikkea tekoälyn käyttöä. Suurin osa siitä, mitä työntekijät ovat itse alkaneet käyttää, on toimivaa ja tuottaa tulosta. Hallituksen jäsenen etu ei ole sen jarruttamisessa, vaan kyvyssä erottaa: tämä on matalan riskin toimintaa ja voi jatkua, tämä koskee henkilötietoja tai ihmisiä koskevaa päätöksentekoa ja on käsiteltävä eri tavalla, tämä on epäselvää ja on selvitettävä. Ilman tätä erottelua käsittelette kaikkea samalla tavalla — ja se on yleensä liian tiukkaa enemmistölle ja liian löysää sille poikkeukselle, jolla on merkitystä.
Varjotekoäly ei synny haluttomuudesta. Se syntyy siitä, että työntekijällä oli ongelma ja hän löysi työkalun, joka ratkaisi sen, ilman että olemassa oli hakuprosessia, joka olisi ollut nopeampi kuin itse työkalu. Nämä työkalut eivät näy hankintalistassa. Ne tulevat näkyviin vasta, kun joku kysyy niistä — ja silloinkin vain, jos kysyminen ei johda välittömästi seuraamukseen. Organisaation, joka haluaa nähdä varjotekoälyn, on ensin tehtävä selväksi, että ilmoittaminen ei ole riski. Se on hallinnollinen valinta, ei tekninen.
Responsible AI Scan alkaa kartoituksesta siitä, mitä todella käytetään, riippumatta siitä, mitä on joskus hyväksytty. Sen jälkeen jokainen käyttötapa luokitellaan roolin mukaan — kuka käyttää, mihin — ja riskitason mukaan. Tämä luokittelu johtaa hallintamalliin: tavan käsitellä kutakin kategoriaa, joka sopii organisaationne jo olemassa olevaan riskirakenteeseen sen sijaan, että luotaisiin uusi kehys sen rinnalle. Sääntöjen sisältö itsessään — mitkä velvoitteet tarkalleen pätevät, missä määräajoissa — käsitellään muualla; siihen tämä kartoitus ei keskity. Tämä kartoitus keskittyy mekanismiin: tietämiseen, mitä on käytössä, kykyyn luokitella se, ja kykyyn osoittaa, että tämä on tehty.
Rooli- ja riskitasoluokittelun avulla voitte näyttää valvojalle, tilintarkastajalle tai hallintoneuvostolle rakenteen lupauksen sijaan. Voitte osoittaa, mitkä kategoriat vaativat huomiota ja mitkä eivät. Voitte raportoida siitä joutumatta joka kerta selittämään uudelleen, miksi ette tienneet jotain. Se on eri asema kuin reaktiivinen selittäminen siitä, miksi työkalu on päässyt käyttöön huomaamatta.
Tekoälyriskiä koskeva kysymys näyttää erilaiselta eri tehtävissä. Se, mitä CIO:n tulee tietää tekoälyriskistä, koskee järjestelmiä ja infrastruktuuria; se, mitä lakiasiainjohtajan tulee tietää tekoälyriskistä, koskee vastuuta ja todistusaineistoa; se, mitä riskienhallintapäällikön tulee tietää tekoälyriskistä, koskee sitä, miten tekoälyriski sopii olemassa olevaan riskitaksonomiaan. Hallituksen jäsenenä olette tekemisissä kaikkien kolmen kanssa, mutta ette ole se, joka suorittaa luokittelun — olette se, jonka on voitava nähdä, että se on tehty.
Responsible AI Scan on rakenteilla. Tällä hetkellä ei ole työkalua, jonka voisitte käynnistää ja josta tulisi suoraan raportti. Kiinnostuneet voivat liittyä odotuslistalle; mitään ei tarjota, mitä ei vielä ole olemassa, eikä mitään luvata siitä, milloin tai millä tuloksella.
Ennen kuin voitte todeta, onko tekoälyn käyttö riskialtista, on usein hyödyllisempää tietää, mitä tekoäly itse työssä tarkoittaa: mikä osa tehtävästä voidaan siirtää tekoälylle ja mikä ei. Tuo kysymys on lähellä riskikysymystä, mutta ei ole sama asia — tehtävä, joka voidaan suurelta osin siirtää tekoälylle, ei ole automaattisesti riskialtis, ja tehtävä, joka ei sitä ole, ei ole automaattisesti turvallinen. FTE TO AI:n työkartoitus laskee tehtävittäin, kuinka suuri osa työstä on siirrettävissä tekoälylle, ja antaa siten perustan, jonka pohjalta riskikysymys voidaan esittää tarkemmin kuin pelkän hyväksyttyjen sovellusten listan pohjalta.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.