Usein on jo olemassa asiakirja nimeltä eskalaatiomenettely. Siinä on kaavio nuolineen, rivi nimiä ja pari kynnysarvoa. Ongelma ei ole se, että asiakirja puuttuisi. Ongelma on se, että kukaan ei avaa sitä sillä hetkellä, kun sitä tarvitaan.
Se ei johdu haluttomuudesta. Se johtuu siitä, että ongelmien esiin nostamiselle on jo olemassa polku: linjaesimies, joka ilmoittaa IT-häiriöstä, compliance-officer, joka puhuu liiketoiminnan kanssa, tiiminvetäjä, joka vie ongelmansa omalle esimiehelleen. Tämä polku on olemassa, sitä käytetään päivittäin, ja se toimii — niissä asioissa, joita varten se on tarkoitettu. Uusi eskalaatiopolku nimenomaan AI-häiriöille on silloin toinen reitti sellaisen reitin rinnalla, joka on jo käytössä. Epäselvässä tilanteessa kaikki valitsevat reitin, jonka he tuntevat.
Eskalaatiopolku, joka on erillään olemassa olevasta rakenteesta, vaatii työntekijältä, että hän ensin tunnistaa jonkin asian olevan AI-häiriö, sitten muistaa, että siihen sovelletaan toista prosessia, ja sen jälkeen viitsii noudattaa kyseistä prosessia sen sijaan, että soittaisi vain esimiehelleen. Jokainen vaihe tässä ketjussa on hetki, jolloin polku hylätään.
Lisäksi on toinen syy, näkymättömämpi mutta yhtä ratkaiseva: poikkeamasta ilmoittava henkilö ei halua joutua välittömästi organisaation häiriölomakkeelle. Jos eskaloiminen tarkoittaa samaa kuin vastuuseen joutuminen, ei eskaloida. Tämä pätee työntekijään, joka käytti AI-työkalua, jota ei ollut hyväksytty, ja se pätee esimieheen, joka antoi mallin toimia niin, ettei kukaan tiennyt siitä. Eskalaatiopolku, jota todella käytetään, on polku, jossa ensimmäinen ilmoitus ei ole tuomio, vaan signaali.
Toimiva eskalaatiopolku kuvaa kolme asiaa, ei enempää.
Sen, joka havaitsee jotain — työntekijä, asiakas, ulkopuolinen osapuoli — täytyy tietää, kenen puoleen hän voi kääntyä, joutumatta ensin selvittämään, onko kyse AI-asiasta vai tavallisesta operatiivisesta asiasta. Polku liittyy siihen ilmoituspisteeseen, jota jo on olemassa, ja siihen lisätään haara sille hetkelle, kun käy ilmi, että AI on osallisena.
Sen, joka tekee päätöksen — pysäytetäänkö jokin, mukautetaanko sitä, tai ilmoitetaanko siitä valvovalle viranomaiselle — täytyy olla määritelty ennen kuin häiriö tapahtuu. Ei abstraktina tehtävänimikkeenä, vaan nimellä, varahenkilön kanssa. Eskalaatio, joka jumittuu tyhjään mandaattiin, ei ole eskalaatio.
Sen, mitä ilmoittajalle tapahtuu sen jälkeen, täytyy olla selkeää. Jos toinen prosessi koostuu vain ilmoitusvelvollisuudesta selkeyttä vailla ilmoittajan seurauksista, sitä vältetään. Juuri siihen piiloutuu varjo-AI: ei järjestelmiin, jotka IT tuntee, vaan työkaluihin, joita joku on alkanut käyttää ilmoittamatta siitä, koska ilmoittaminen tuntui tunnustamiselta.
Ratkaisu ei ole paksumpi asiakirja. Se on eskalaatiopolku, joka hyödyntää olemassa olevaa rakennetta — ilmoituspistettä, eskalaatiolinjaa, riskikomiteaa — ja lisää siihen AI-spesifisen haaran niihin kohtiin, joissa erottelu on merkityksellinen. Miten tämä liittäminen käytännössä toimii, myös laajemman politiikan ja valvontaelimen päätösluettelon osalta, on kuvattu artikkelissa miten saatte AI-politiikan, jota luetaan, koska se on juurrutettu siihen, mitä on jo olemassa ja artikkelissa miten saatte valvontapäätösluettelon, joka liittyy olemassa olevaan päätöksentekorytmiin. Molemmat asiakirjat koskettavat samaa pointtia: prosessi, joka on organisaation rinnalla, jätetään huomiotta; prosessi, joka on sen sisällä, sitä noudatetaan.
Tämä lähtökohta ei koske ainoastaan eskalaatiota. Se koskee koko AI:hin liittyvää hallintorakennetta. Se, joka haluaa tietää, miltä tämä näyttää laajemmin — miten riskiluokittelu liittyy olemassa oleviin riskiluokkiin, miten liittyminen olemassa olevaan riskirakenteeseen estää rinnakkaisen byrokratian syntymisen — löytää siitä taustalla olevan periaatteen. Sama koskee ylöspäin suuntautuvaa raportointia: yhden sivun hallitusraportti toimii vain, jos siinä mainitut eskalaatiot on todella ilmoitettu. Ja jatkuvan seurannan puuttuessa siitä, mikä muuttuu, jokainen eskalaatiopolku vanhenee vuoden sisällä; mitä tämä käytännössä tarkoittaa, on selitetty sivulla seuranta, joka tuottaa jotain.
Eskalaatiopolku on kirjoitettavissa vasta, kun tiedetään, mikä voi eskaloitua. Niin kauan kuin kukaan ei tiedä, mitä AI:ta organisaatiossa on käytössä — mukaan lukien se, mitä ei ole hyväksytty — asiakirja pysyy teoreettisena. Responsible AI Scan ei siksi ala eskalaatiopolusta, vaan inventaariosta: mitä on käytössä, kuka sitä käyttää, ja mikä riskitaso sopii siihen. Vasta sen perusteella on kirjoitettavissa eskalaatiopolku, joka liittyy siihen, mitä on jo olemassa, sen sijaan, mitä paperilla pitäisi olla olemassa.
Eskalaatiopolut koskevat sitä, mikä menee pieleen jo käytössä olevan AI:n kanssa. Toinen kysymys, joka jää yhtä lailla vähälle huomiolle, on se, missä AI voisi itse ottaa työn haltuunsa. FTE TO AI:n työscanni laskee tehtäväkohtaisesti, mikä osa työstä soveltuu tähän, riippumatta siitä, tapahtuuko se jo vai täytyykö se vielä järjestää.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.