re-ai-gov Jonotuslistalle

Kennisbank

Työkalu, jota kukaan ei hyväksynyt mutta jota kaikki käyttävät

On hetki, jolloin työntekijällä on ongelma ja hän etsii ratkaisua. Teksti, jonka pitää valmistua nopeammin, aineisto, josta pitää saada selkeämpi, asiakas, joka haluaa vastauksen jo tänään. IT-osaston käsittelyaika on liian pitkä, tai palvelupistettä ei ole. Niinpä luodaan tili, asennetaan laajennus, otetaan tilaus luottokortille, jota kukaan ei valvo. Ei haluttomuudesta. Työpaineesta.

Näin syntyy varjotekoäly. Ei kapinana politiikkaa vastaan, vaan käytännön vastauksena aukkoon politiikassa. Eikä se katoa itsestään, sillä syy, jonka vuoksi se syntyi — tehtävä, joka sujuu tekoälyllä nopeammin kuin ilman — säilyy niin kauan kuin politiikka ei tarjoa vaihtoehtoa. Kieltäminen ei muuta tehtävää. Se muuttaa vain sen, tiedättekö te, että työkalua käytetään.

Miksi IT-lista ei pidä paikkaansa

Hyväksytyn ohjelmiston luettelo kertoo, mitä on pyydetty ja myönnetty. Se ei kerro mitään siitä, mitä käytetään. Näiden kahden listan välillä on ero, joka kasvaa sitä mukaa kun tekoälytyökaluista tulee helpommin saatavilla: ei asennusta, ei hankintaprosessia, vain selain ja tili. Selainlaajennus, jolla on pääsy sähköpostiinne jää kaiken hankintaprosessin ja kaiken luettelon ulkopuolelle, vaikka sen käyttöoikeudet ovat yhtä arkaluonteisia kuin hyväksytyllä järjestelmällä. Se, joka katsoo vain IT-listaa, katsoo osaa todellisuudesta ja kutsuu sitä kokonaisuudeksi.

Kysymys, johon ette saa vastausta, jos rankaisette ensin

Ainoa tapa saada tietää, mitä todella käytetään, on kysyä. Ei valvontakysymyksenä, jonka lopussa on seuraamus, vaan kartoituksena, josta ei koidu seurauksia yhteistyöhön osallistuvalle. Heti kun työntekijät epäilevät, että rehellinen vastaus johtaa keskusteluun esihenkilön kanssa, tieto ei katoa — se vain siirtyy maan alle. Sama työkalu pysyy käytössä, vain vähemmän näkyvästi. Organisaation, joka haluaa tietää varjotekoälyn laajuuden, on siis ensin järjestettävä ehdot, joiden alla se saa vastauksen. Kyse ei ole luottamuksen menettämisestä, vaan järjestyksestä: ensin näkyvyys, vasta sitten politiikka.

Mitä sille sitten tapahtuu

Kun kartoitus on tehty, syntyy jotain käyttökelpoista: luettelo työkaluista roolin ja riskitason mukaan, ei hyvän tai huonon mukaan. Työkalu, joka kirjoittaa tekstiä uudelleen sisäiseen käyttöön, kantaa erilaisen riskin kuin työkalu, joka käsittelee asiakastietoja tai valmistelee päätöksiä. Osa näistä työkaluista on syntynyt yksittäisestä käytöstä, josta on kasvanut osaston vakiokäytäntö — katso osasto, jolla on oma tilaus — ja ne ansaitsevat pikemminkin virallistamisen kuin kiellon. Toiset on perustettu kertaluonteisesti projektia varten, joka on jo päättynyt, mutta käyttöoikeus on yhä auki; tämä on kuvio, joka esitetään kohdassa koejärjestely, jota ei ole koskaan sammutettu. Luokittelu määrittää, mitä tarvitaan: joskus ei mitään, joskus muutosta, joskus siirtämistä olemassa olevaan hallintorakenteeseen.

Ei noitavainoa, mutta rakenne

Tämän lähestymistavan tavoitteena ei ole osoittaa sormella jokaista, joka käynnisti työkalun ilman lupaa. Tavoitteena on tietää, mitä on käytössä, kuka sitä käyttää ja mikä riski siihen liittyy — jotta hallituksen jäsen, CIO tai General Counsel voi vastata tähän kysymykseen, kun se esitetään, sisäisesti tai ulkoisesti. Se edellyttää vakiintunutta kartoitustapaa, joka ei pysähdy yhteen kierrokseen, sillä uusia työkaluja tulee jatkuvasti lisää. Se, miten tämä kartoitus käytännössä rakennetaan, mukaan lukien kysymys siitä, kuka sen toteuttaa ja kuinka usein, on kuvattu kohdassa miten rakennatte tekoälyinventaarion.

Itse hallintorakenne — mitkä säännöt koskevat mitäkin riskitasoa, mitkä määräajat ja velvoitteet siihen liittyvät — on erillinen aihe, jolla on oma ajankohtainen sisältönsä, jota ei toisteta tässä. Tällä sivulla merkitsee mekanismi: näkyvyyden saaminen sulkematta tietovirtaa, ja tuon näkyvyyden kääntäminen luokitteluksi, joka sopii yhteen sen kanssa, mitä organisaatio on jo järjestänyt riskienhallinnassa.

Missä tämä päättyy ja missä se jatkuu

Varjotekoälyn paljastava kartoitus ei useinkaan paljasta pelkkiä yksittäisiä työkaluja. Se paljastaa myös, että toimittaja on lisännyt tekoälyn järjestelmään, joka oli jo käytössä, käymättä siitä erillistä keskustelua — kuvio, joka on kohdan toimittaja, joka rakensi tekoälyn tuotteeseensa taustalla — ja että arkaluonteista yritystietoa liitetään joskus suoraan julkiseen keskusteluikkunaan, kuten kuvataan kohdassa yritystiedot ilmaisessa keskusteluikkunassa. Kaikilla näillä muodoilla on sama alkuperä: tehtävä, jossa tekoäly toimii nopeammin kuin olemassa oleva prosessi.

Tämä havainto johtaa loogisesti toiseen kysymykseen, irrallaan hyväksynnästä ja riskistä: mikä osa itse työstä soveltuu tekoälyn hoidettavaksi. FTE TO AI:n työskannaus laskee tämän tehtäväkohtaisesti, sen perusteella, mitä työ tosiasiallisesti sisältää, ja osoittaa, missä automaatio voi ottaa haltuunsa todellisen osan ajasta — askeleena kohti keskustelua siitä, mitä sillä voidaan suunnitella, ei korvaamaan hallinnan kysymystä, joka on tämän sivun ytimessä.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.