AI-sovellus tekee virheen. Päätös on väärä, neuvo on harhaanjohtava, asiakas hylätään aiheettomasti. Sitä seuraava kysymys ei ole vain tekninen. Kenen olisi pitänyt nähdä tämä tulevan, kuka hallinnoi järjestelmää ja kuka voi selittää, miksi sitä käytettiin tavalla, jolla sitä käytettiin.
Tätä vastausta ei ole olemassa erillään rekisteristä. Vastuullisuus edellyttää, että joku tietää sovelluksen olemassaolosta, mihin se on tarkoitettu ja kuka siitä vastaa. Ilman tätä perustaa kysymys vastuunalaisuudesta on retorinen: kukaan ei tiedä sitä, joten kukaan ei voi selittää sitä.
Responsible AI Scan kartoittaa, mitä on käytössä, ketkä sitä käyttävät ja millä riskitasolla se on. Se on lähtökohta, ei kannanotto syyllisyydestä. Skannaus luokittelee sovelluksen roolin ja riskin mukaan; se ei arvioi, oliko yksittäinen päätös oikea. Tämä arviointi kuuluu itse tapahtumaan, ei sitä edeltäneeseen inventaarioon.
Mitä skannaus todella tekee, on tarjota rakenteen, jonka sisällä tämä arviointi voidaan myöhemmin tehdä. Jos tiedetään, kuka on hankkinut sovelluksen, kuka sitä hallinnoi ja mihin tarkoitukseen se on hyväksytty, on olemassa linja, johon voidaan palata. Jos tätä rakennetta ei ole, kysymys vastuullisuudesta palautuu jälkikäteiseen arvailuun.
Useimmilla organisaatioilla on yleiskuva hyväksytystä ohjelmistosta. Tämä yleiskuva on lähes koskaan täydellinen. Työntekijät käyttävät työkaluja, joita kukaan ei ole ilmoittanut, usein siksi, että työ etenee nopeammin ja kukaan ei kysynyt. Tämä ei ole automaattisesti vastuuttomaksi laskettavaa toimintaa; se on sitä, mitä tapahtuu, kun organisaatio ei tarjoa muuta tietä.
Joka haluaa tietää, mitä todella käytetään, on kysyttävä sitä. Ja se toimii vain, jos kysymisestä ei ole seuraamuksia. Kun työntekijä epäilee, että rehellinen vastaus johtaa korjaavaan keskusteluun, vastaus loppuu. Mitä teette työntekijöille, jotka käyttävät työkalua, jota kukaan ei ole hyväksynyt käsittelee juuri tätä mekanismia: inventaari on yhtä hyvä kuin luottamus, jolla se kerätään.
Siihen liittyy myös kysymys siitä, mitä yritystiedolle tapahtuu, kun se kirjoitetaan ulkoiseen ikkunaan. Mitä teette yritysdatalle ilmaisessa chat-ikkunassa kuvaa riskin, joka on erillinen pahantahtoisuudesta: joku haluaa yksinkertaisesti tarkistuttaa tekstin, ja kirjoittaa samalla mukaan sellaista, mitä ei olisi pitänyt.
Inventaaria seuraava hallintakokonaisuus määrittelee, kuka hyväksyy sovelluksen, kuka valvoo sitä ja miten se dokumentoidaan. Tämä liittyy riskirakenteeseen, joka organisaatiolla on jo muilla alueilla: samat komiteat, samat raportointilinjat, samat eskalaatiopolut. Ei tule uutta laitteistoa olemassa olevan rinnalle; olemassa olevaan lisätään kategoria.
Tämä tuottaa todistettavuuden: hallitus voi osoittaa, että on katsottu, luokiteltu ja järjestetty valvonta. Se ei tuota takuuta siitä, että sovellus ei koskaan enää tee virhettä. Näiden kahden välillä on ero, ja skannaus ei ota kantaa jälkimmäiseen. Se tuottaa perustan, jonka pohjalta hallitus voi selittää, mitä on tehty, ei vakuutusta sitä vastaan, mitä voi vielä tapahtua.
Usein tehty virhe on rakentaa erillinen AI-prosessi, irrallaan olemassa olevasta riski- ja compliance-rakenteesta. Tämä prosessi saa alussa huomiota ja häviää sen jälkeen taustalle, koska kukaan ei jatka toisen järjestelmän ylläpitämistä ensimmäisen rinnalla. Miksi olemassa olevan rinnalle rakennettu toinen prosessi jää huomiotta selittää, miksi liittyminen olemassa oleviin rakenteisiin ei ole tehokkuuskysymys, vaan edellytys jonkin olemassaololle.
Siihen kuuluu myös se, että inventaari on hetki, ei päätepiste. Uusia sovelluksia tulee lisää, olemassa olevat muuttavat toimintaansa, ja luokitus, joka piti paikkansa käyttöönotossa, ei automaattisesti pidä paikkaansa vuotta myöhemmin. Kuinka usein pitää luokitella uudelleen ja miten pidätte AI-rekisterin ajan tasalla kuvaavat, mitä tämä ylläpito käytännössä vaatii, ja miksi kerran laadittu rekisteri lakkaa vastaamasta todellisuutta suhteellisen lyhyessä ajassa.
Ihmiset, jotka työskentelevät näiden sovellusten kanssa, ovat lisäksi osa ratkaisua, ei vain hallittavaa riskiä. Se, mitä työntekijät ymmärtävät ja eivät ymmärrä käyttämistään järjestelmistä, määrittää, tarkoittaako hallintakokonaisuus käytännössä mitään. Mitä AI-lukutaito tarkoittaa työntekijöillenne käsittelee tätä näkökulmaa.
Kun tietää, mitä AI-sovelluksia on käytössä ja kuka niistä vastaa, tulee luonnollisesti vastaan seuraava kysymys: mikä osa nyt manuaalisesti tehtävästä työstä on todella sopivaa jättää AI-sovelluksen tehtäväksi. Se on eri kysymys kuin vastuullisuus, mutta nojaa samaan inventaarioon. FTE TO AI:n työskannaus laskee tehtäväkohtaisesti, kuinka suuri osa työstä on AI:n hoidettavissa, seuraavana askeleena sen jälkeen, kun on selvää, mitä on jo käytössä ja kuka siitä päättää.
Tällä sivulla kuvattu skannaus on kehitteillä. Ken on kiinnostunut tästä, voi ilmoittautua odotuslistalle; nyt ei toimiteta mitään, joka ei ole valmis.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.