re-ai-gov Jonotuslistalle

Kennisbank

Koeasetelma, jota kukaan ei enää uskalla sulkea

Miten kokeilusta tulee rakenne

Tiimi haluaa työskennellä nopeammin ja ottaa käyttöön tekoälytyökalun, useimmiten testatakseen jotain konkreettista: tiivistelmää, ensimmäistä luonnosta, luokittelua. Hyväksymismenettelyä ei ole, koska kyseessä on "vain kokeilu". Kokeilu toimii, tai toimii riittävän hyvin, ja katoaa päivittäiseen prosessiin ilman, että kukaan on koskaan tehnyt päätöstä sen säilyttämisestä. Ei ole ollut hetkeä, jolloin joku olisi tietoisesti valinnut: tämä otetaan mukaan tekoälyinventaarioomme, tälle nimetään omistaja, tämä kuuluu tähän riskitasoon. Oli vain aloittamisen hetki, ja se hetki kirjautuu pysyvästi työtapaan, jota kukaan ei ole sen jälkeen koskenut.

Miksi sulkeminen tuntuu raskaammalta kuin jatkaminen

Koeasetelman lopettaminen vaatii päätöksen. Jatkaminen ei vaadi mitään. Niin kauan kuin kukaan ei ilmoita häiriötapauksesta tai ulkopuolinen taho ei kysy näyttöä valvonnasta, ei ole aihetta palata asiaan, joka on jo pitkään ollut tavallista työtä. Työkalua käyttävillä ihmisillä ei ole intressiä nostaa asiaa esiin: se toimii, se säästää aikaa, ja ilmoittaminen tuntuu riskiltä, että se otetaan pois. Niin tilapäinen ratkaisu pysyy rakenteellisena, ei siksi, että kukaan ei tietäisi siitä, vaan siksi, että kukaan ei esitä kysymystä, joka johtaisi sen lopettamiseen.

Miksi IT-lista ei ratkaise ongelmaa

On houkuttelevaa ajatella, että hyväksytyn ohjelmiston yleiskatsaus tekee tämän näkyväksi. Se yleiskatsaus näyttää, mitä on hankittu, ei sitä, mitä käytetään. Koeasetelma kulkee usein tämän kanavan ohi: ilmainen tili, selainlaajennus, erillinen tilaus tiimikortilla. Samaa kuviota nähdään selainlaajennuksessa, jolla on pääsy sähköpostiinne, osastossa, jolla on omat tilauksensa keskitetyn hankinnan ulkopuolella, ja yritysdatassa, joka liitetään ilmaiseen chat-ikkunaan ilman, että sen takana on sopimus tietojenkäsittelyehtoineen. Mikään näistä tilanteista ei näy IT-listalla, koska yhtäkään niistä ei ole koskaan ilmoitettu projektina.

Miksi kysymistä tarvitaan ilman sanktioita

Ainoa keino tietää, mitä todella on käytössä, on kysyä. Ei jälkikäteisenä valvontana, vaan avauksena: mitä käytätte, mihin, ja mistä lähtien. Se, joka esittää tämän kysymyksen niin, että seuraamusten uhka on taustalla, ei saa vastausta tai saa vain puutteellisen vastauksen. Työntekijöillä, jotka käyttävät työkalua, jota kukaan ei ole hyväksynyt, on rehellisyydestä menetettävää ja ei mitään voitettavaa. Juuri tämä jännite tulee esiin kohdassa työntekijät, jotka käyttävät työkalua, jota kukaan ei ole hyväksynyt: ilman kutsua, johon on turvallista vastata, koeasetelma pysyy maan alla, eikä se katoa, se ainoastaan hiljenee.

Mitä organisaatio voi tehdä ilman noitavainoa

Inventaario, jossa ilmoittajalle ei ole seurauksia, on ensimmäinen askel, ei johtopäätös. Näkyväksi tekemisen jälkeen tulee luokittelu: mikä tämä on, mitä roolia se näyttelee prosessissa, ja mikä riskitaso siihen sopii. Sisäisten muistiinpanojen tiivistelmätyökalu vaatii erilaisen käsittelyn kuin työkalu, joka osallistuu asiakashyväksynnän tai henkilöstöarvioinnin päätöksentekoon. Tämän luokittelun tulisi liittyä olemassa olevaan riskirakenteeseen, ei uuteen, erilliseen kehykseen. Toinen, epävirallinen prosessi, jota jätetään huomiotta olemassa olevan prosessin rinnalla, on juuri se syy, minkä takia toinen prosessi olemassa olevan rinnalla jää huomiotta on tunnistettava kuvio: ihmiset seuraavat vastuksettomampaa polkua, ja tämä polku näkyy vasta, kun joku kysyy siitä.

Tämän jälkeen tulee kysymys siitä, kuka enää seuraa asiaa. Koeasetelmalla, joka on päästetty vapaaksi päivittäiseen työhön, ei useimmiten ole enää omistajaa, joka arvioisi tuloksia ennen niiden käyttöä. Tässä kohtaa mitä menetys ihmisen valvonta tarkoittaa käytännössä tulee merkitykselliseksi: ei abstraktina periaatteena, vaan konkreettisena kysymyksenä siitä, kuka lukee tuotoksen ennen kuin se koskettaa asiakasta, dossieria tai päätöstä.

Todennettavuus ilman noitavainoa

Johtajalla, jolta tästä kysytään — valvojan, tilintarkastajan, hallintoneuvoston taholta — on kaksi vaihtoehtoa: sanoa, että yleiskatsaus on täydellinen, tai sanoa, että prosessi on olemassa sen täydentämiseksi ja täydellisenä pitämiseksi. Toinen vaihtoehto on rehellisempi ja pitkällä aikavälillä vahvempi, sillä organisaatiolla, joka aktiivisesti inventoi, on jotain todennettavaa, myös silloin kun inventaario ei ole vielä valmis. Asia ei ole se, ettei valtuuttamattomia koeasetelmia synny enää koskaan. Asia on se, että on olemassa mekanismi, joka löytää ne ennen kuin häiriötapaus tekee sen puolestanne.

Seuraava kysymys: mitä tekoäly voisi tässä oikeastaan ottaa hoitaakseen

Kun on kerran tehty näkyväksi, mitä tekoälyä on syntynyt suunnittelemattomasti, herää usein toinen kysymys: jos tämä tiimi teki tätä jo, kenenkään sitä organisoimatta, mitä tapahtuisi, jos organisoisimme sen? Se on eri kysymys kuin hallintotapa, ja se kuuluu FTE TO AI:n työskannaukseen, jossa lasketaan tehtäväkohtaisesti, mikä osa työstä on kohtuudella siirrettävissä tekoälylle. Siinä missä tämä sivu kuvaa, miten saatte otteen siitä, mitä on jo käynnissä, tämä skannaus kuvaa, mitä voidaan vielä rakentaa, samalla maanläheisellä katseella tehtäviin ja riskeihin.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.