Toimittaja toimittaa kirjanpito-ohjelmiston, HR-järjestelmän tai asiakaspalvelutyökalun. On sopimus, käsittelysopimus, mahdollisesti tietoturva-auditointi. Sitten toimittaja lisää päivityksessä tekoälyominaisuuden: automaattisen luokittelun, tekstiehdotukset, chatbotin, jonka annetaan käsitellä teidän dataanne. Julkaisutiedoissa se mainitaan parannuksena. Kukaan organisaatiossanne ei ole päässyt siitä sanomaan mitään, koska kukaan ei tiennyt sen olevan tulossa.
Tämä ei ole poikkeus siitä, miten ohjelmistoja toimitetaan. Siitä on tullut normi. Toimittajat kilpailevat tekoälyominaisuuksilla ja rakentavat niitä mahdollisimman nopeasti, usein osana tilausta, jonka maksatte jo. Kysymystä siitä, kuuluuko tämä olemassa oleviin sopimuksiinne, kysytään harvoin ennen kuin ominaisuus julkaistaan.
Hankintaosasto arvioi toimittajan hankintavaiheessa. Sen jälkeen huomio siirtyy laskutukseen, käytettävyysaikaan ja tukeen. Toiminnalliset päivitykset kiertävät tämän prosessin ulkopuolella, koska ne kuuluvat ylläpitoon, ei uuteen hankintaan. Kenen pitäisi ilmoittaa asiasta? Toimittaja näkee sen tuoteparannuksena. Ostaja ei näe päivitystä, tai näkee sen ja ajattelee sen kuuluvan jollekin muulle. Organisaation käyttäjä huomaa lähinnä, että jokin painike toimii nyt älykkäämmin, ja ei kysy itseltään, onko sen takana kielimalli, joka käsittelee dataa ulkoisesti.
Kuvio muistuttaa sitä, mitä tapahtuu selainlaajennuksen kanssa, jolla on pääsy sähköpostiinne: pääsy myönnetään hetkellä, jolloin kukaan ei ajatellut tekoälyä, ja se pysyy sen jälkeen huomaamatta aktiivisena. Toimittajien kohdalla mittakaavaongelma on suurempi, koska kyse ei ole yhdestä työntekijästä vaan koko organisaatiosta, joka altistuu yhden sopimuksen kautta.
Sopimusehto, joka velvoittaa ilmoittamaan tekoälyominaisuuksista, auttaa uusissa sopimuksissa. Olemassa olevissa sopimuksissa ehtoa ei ole, ja ei ole itsestään selvää, että toimittaja hyväksyy sen taannehtivasti. Lisäksi lauseke ei ratkaise havaitsemisongelmaa: jos kukaan ei säännöllisesti tarkista, mitä toimittaja on tosiasiassa lisännyt, ilmoittaminen jää riippuvaiseksi toimittajan omasta halukkuudesta ilmoittaa asiasta.
Se, mikä toimii, on kiinteä tilannekatsaus: säännöllinen kartoitus siitä, mitä tekoälyominaisuuksia jokainen keskeinen toimittaja tällä hetkellä tarjoaa, irrotettuna siitä, mitä hankintavaiheessa on arvioitu. Se ei ole juridinen välikappale vaan tosiasiallinen katsaus, jota voidaan sen jälkeen verrata sen prosessin riskikategoriaan, jossa toimittaja toimii.
Sama dynamiikka, joka pitää yllä työntekijöiden varjotekoälyä, esiintyy myös tässä, mutta toimittajatasolla. Se, joka kysyy "käytättekö te tässä tekoälyä", haluaa rehellisen vastauksen, ei asiakasvastaavan puolustusreaktiota. Tämä tarkoittaa, että kysymystä ei pitäisi esittää sopimuksen purkamisen alkuvaiheena, vaan osana vakiintunutta prosessia, jossa vastauksella ei ole muita seurauksia kuin luokittelu. Katsokaa, miten se toimii työntekijöiden kohdalla, jotka käyttävät työkalua, jota kukaan ei ole hyväksynyt: käyttökelpoinen tieto irtoaa vasta, kun kysymysten esittäminen erotetaan rankaisemisesta.
Toimittajaluettelo on lähtökohta, ei päätepiste. Jokaisen toimittajan kohdalla, jolla on pääsy tuotantodataan, asiakasdataan tai henkilöstödataan, on olennaista tietää, sisältyykö siihen nykyään tekoälyominaisuuksia, mitä tuo ominaisuus tekee datalle, ja kuuluuko käyttö samaan riskikategoriaan, johon toimittaja alun perin hyväksyttiin. Toimittaja, joka viisi vuotta sitten arvioitiin matalan riskin toimittajaksi, koska se ainoastaan laskutti, voi nyt ajaa moduulia, joka luokittelee laskuja automaattisesti ulkoisesti koulutetun kielimallin perusteella. Se on eri riskikategoria, vaikka laskussa lukisi sama nimi.
Tämän kartoituksen ei pitäisi olla erillään organisaation muusta tekoälyhallinnasta. Sama luokittelu, jota sovelletaan sisäisesti rakennettuihin työkaluihin tai koekokoonpanoon, jota ei koskaan sammutettu, pitäisi soveltaa myös siihen, mitä toimittajat tuovat mukanaan. Yksi katsaus, yksi riskiasteikko, riippumatta siitä, onko tekoäly rakennettu sisäisesti, tuonut työntekijä mukanaan, tai lisännyt toimittaja ilman ilmoitusta.
Kun on selvää, mitä tekoälyä toimittajien kautta tulee sisään, syntyy jatkokysymys, joka menee riskiä pidemmälle: mitä tuo tekoäly tosiasiassa tekee työlle, jota nyt tekevät ihmiset, ja missä se on päällekkäinen tehtävien kanssa, jotka joka tapauksessa soveltuvat automatisoitaviksi. FTE TO AI:n työscan laskee tehtävittäin, kuinka suuri osa työstä on siirrettävissä tekoälylle, riippumatta siitä, mikä toimittaja tai järjestelmä sen viime kädessä suorittaa. Se tekee riskistä alkavasta kartoituksesta käyttökelpoisen myös sitä seuraavaan kysymykseen: ei vain mitä on käynnissä, vaan mitä työ tosiasiassa on arvoltaan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.