Kysymys siitä, mitkä sovellukset jäävät soveltamisalan ulkopuolelle, kuulostaa listan pyytämiseltä. Sitä se ei ole. Se, kuuluuko jokin soveltamisalaan vai jääkö sen ulkopuolelle, on luokittelu, joka riippuu siitä, mitä sovellus tekee, missä kontekstissa ja kenelle. Sama teknologia voi yhdessä sovelluksessa pysyä huomion ulkopuolella ja toisessa nousta täyden huomion kohteeksi. Kiinteää listaa poissuljetuista sovelluksista ei siksi ole olemassa — mutta on olemassa useita tekijöitä, jotka määrittävät luokittelun.
Ensimmäinen tekijä on sovelluksen toiminto: mistä järjestelmä päättää tai mistä se neuvoo, ja kenelle siitä on seurauksia. Työkalu, joka kirjoittaa sisäistä tekstiä uudelleen, on eri asia kuin työkalu, joka on osana päätöksenteossa hakemuksesta, työhakemuksesta tai korvausvaatimuksesta. Toinen tekijä on tähän toimintoon liittyvä riskitaso: mitä suuremmat seuraukset ihmisille ovat, sitä helpommin sovellus siirtyy kohti spektrin raskaampaa päätä. Kolmas tekijä on organisaation oma rooli: se, joka käyttää järjestelmää vain sellaisenaan, arvioidaan eri tavalla kuin se, joka mukauttaa, jatkokouluttaa tai kokoaa sen muiden osista. Se, mitä tämä roolijako tarkalleen tarkoittaa ja milloin se muuttuu, on kuvattu sivuilla tarjoajan ja käyttäjän eron AI-järjestelmässä ja hetken, jolloin käyttäjärooli muuttuu toisenlaiseksi vastuuksi.
Neljäs tekijä on tekninen luonteeltaan, mutta oikeudellisesti merkittävä: se, mitä organisaatio itse muuttaa olemassa olevaan malliin, muuttaa joskus organisaation asemaa kokonaisuudessa. Muuttumattomana hankittu malli asettuu kuvaan eri tavalla kuin malli, jota hienosäädetään omalla datalla tai upotetaan omaan prosessiin. Tätä rajaa — milloin mukauttaminen tuo mukanaan roolin muutoksen — käsitellään sivulla mitä muuttuu, kun malliin tehdään itse muutoksia.
Koska luokittelu riippuu näistä tekijöistä, soveltamisala ei ole työkalun pysyvä ominaisuus vaan tulos, joka voi muuttua. Chatbotti, joka alkoi sisäisenä kirjoitusapuna, voi siirtyä spektrin toiseen osaan, kun se alkaa myös vastata asiakaskysymyksiin, jotka johtavat päätökseen. Malli, joka hankittiin valmiina tuotteena, voi omalla datalla tehdyn mukautuksen jälkeen tuoda organisaatiolle erilaisen roolin. Sovellus, joka tänään lasketaan vähäriskiseksi, voi huomenna painaa enemmän, koska konteksti, jossa sitä käytetään, on muuttunut — eri tiimi, eri päätös, eri ihmisryhmä, jota lopputulos koskee.
Juuri tämän takia yksittäinen, kertaluonteinen luokittelu ei riitä. Käyttöönoton hetkellä tehty luokitus ei kerro mitään siitä, mitä työkalu tekee vuotta myöhemmin. Se, mikä pitää tänään tuoda soveltamisalan piiriin ja mikä voidaan suunnitella myöhemmäksi, on siis itsessään kysymys, joka riippuu ajankohtaisesta tilanteesta — käsitelty sivulla järjestyksen välillä sen, mikä nyt vaatii huomiota, ja sen, mikä voi seurata myöhemmin.
Jakoa soveltamisalaan kuuluvien ja sen ulkopuolelle jäävien välillä vaikeuttaa käytännön ongelma: virallinen lista hankituista tai hyväksytyistä työkaluista ei ole sama lista kuin ne työkalut, joita todella käytetään. Tiimit ottavat AI-toiminnallisuutta käyttöön viemättä sitä hakuprosessin läpi — ei haluttomuudesta, vaan koska se on helposti saatavilla ja ratkaisee ongelman. Tämä varjo-AI on juuri se osa, joka tekee luokittelun soveltamisalaan kuuluvaksi tai sen ulkopuolelle jäävästi mahdottomaksi, niin kauan kuin kukaan ei tiedä sovelluksen olemassaolosta.
Sen, joka haluaa täydentää tämän kuvan, on kysyttävä asiaa — ja niin, että kysymys ei tunnu peitellyltä syytökseltä. Heti kun työntekijä epäilee, että rehellinen vastaus johtaa seuraamukseen, vastaus jää tulematta ja työkalu pysyy tutkan alla. Inventaario, joka on rakennettu vastuuseen vetämisen varaan, tuottaa siis määritelmällisesti epätäydellisen kuvan — ja epätäydellinen kuva tekee jokaisesta soveltamisalaluokituksesta väliaikaisen.
Koska soveltamisala voi muuttua, luokittelun kirjaaminen on vähintään yhtä tärkeää kuin luokittelu itse. Kuka päätti, että sovellus jäi soveltamisalan ulkopuolelle, minkä tiedon perusteella ja millä hetkellä — tällaisiin kysymyksiin ei voida vastata, jos kirjaus puuttuu. Se, miten organisaatio järjestää tämän tyyppisen päätöksen jäljitettäväksi ja toistettavaksi, on kuvattu sivulla päätösluettelo, joka tekee valvontapäätökset jäljitettäviksi, ja se, miten tämä luokittelu näkyy tunnistettavasti asiakirjassa, jota työntekijät todella käyttävät, sivulla AI-toimintaperiaate, joka vastaa sitä, mitä ihmiset todella tekevät.
Luokittelukysymys — mikä kuuluu soveltamisalaan ja mikä ei — koskee riskiä ja vastuuta, ei sitä, mitä sovellus tarkoittaa itse työn kannalta. Tämä toinen kysymys, mitä tehtävästä voidaan tarkalleen jättää AI:n hoidettavaksi, on erillinen laskelma. FTE TO AI:n työskannaus laskee tehtäväkohtaisesti, kuinka suuri osa työstä on siirrettävissä, riippumatta siitä, mihin kohtaan hallinnointiluokitusta kyseinen sovellus asettuu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.