Teillä on lista hyväksytyistä AI-työkaluista. Kysymys ei ole siitä, pitääkö lista paikkansa, vaan siitä, tarkoittaako se enää mitään. Työntekijä, joka nopeuttaa tehtävää chatbotilla, joka ei ole listalla, ei ilmoita siitä poikkeamana. Hän ei ilmoita siitä, koska se ei tunnu poikkeamalta. Vastaus, jota ette voi hyväksyä, on siis "meillä on AI-käytäntö ja hyväksytty lista" — koska se lause ei kerro mitään siitä, mitä tapahtuu listan ulkopuolella, ja se on todennäköisesti suurin osa.
CIO:na te olette henkilö, jonka on selitettävä, miksi AI-poikkeama ei ollut aiemmin tiedossa, kun muu organisaatio olettaa, että IT:llä on kokonaiskuva. Se kokonaiskuva on olemassa hankituille järjestelmille. Sitä ei ole olemassa liitännäiselle, jonka tiimi on itse asentanut, kokeiluversiolle, jonka joku on aktivoinut, tai mallille, joka on tullut mukana asiakaspalvelutyökalun kautta. Riski teille ei ole se, että AI:ta käytetään — sitä käytetään joka tapauksessa — vaan se, että saatte tietää siitä viimeisenä, siinä vaiheessa kun asiat ovat jo menneet pieleen.
Inventaario, joka pitää paikkansa, muuttaa asemaanne. Sen sijaan että reagoisitte poikkeamiin, joita ette nähneet tulevan, voitte etukäteen osoittaa, missä riskit ovat ja miksi. Se on myös perusta käydä organisaation sisällä keskustelua General Counselin kanssa, joka tarkastelee samaa varjo-AI:ta eri näkökulmasta, ja riskienhallintapäällikön kanssa, joka haluaa sijoittaa sen olemassa olevaan riskirakenteeseen sen sijaan, että sen rinnalle luodaan erillinen prosessi.
IT:n lista rekisteröi sen, mitä on hankittu ja hyväksytty. Varjo-AI syntyy siellä, missä nämä kaksi vaihetta jätetään väliin: työntekijä löytää työkalun, käyttää sitä, ja raportoi asiasta ei mitään, koska mitään raportoitavaa ei näytä olevan. Tämä ei ole laiminlyönti — se on seuraus hankintaprosessista, jota ei ole suunniteltu seuraamaan sitä, mitä ihmiset itse omaksuvat. Mitä suurempi organisaatio ja mitä itsenäisemmin tiimit toimivat, sitä suurempi ero listan ja todellisuuden välillä voi olla. Se, kuinka pieni tämä ero on, riippuu siitä, kuinka paljon vapautta tiimeillä on valita työkaluja itse ja kuinka näkyvää tämä käyttäytyminen jo on — lukua tästä ei ole, vain suunta.
Ainoa tapa tietää, mitä todella käytetään, on kysyä sitä ihmisiltä, jotka sitä käyttävät. Tämä toimii vain, jos vastaus ei johda seuraamuksiin sen antajalle. Jos kysytte "käytätkö AI-työkaluja, joita ei ole hyväksytty" sävyllä, joka muistuttaa arviointikeskustelua, saatte vastauksen, jonka IT:n lista jo antoi: ei. Jos kysytte sen irti seuraamuksista, tavoitteena ymmärtäminen sen sijaan että korjaisitte, syntyy kuva, joka vastaa todellisuutta. Tämä ero — kysyminen ilman seurauksia versus kysyminen seurauksin — on ero inventaarin, jolla on arvoa, ja harjoituksen, joka ei kerro kenellekään mitään, välillä.
Lista käytetyistä työkaluista on lähtökohta, ei päätepiste. Kaikki AI-sovellukset eivät kanna samaa riskiä. Työkalu, joka kirjoittaa tekstiä uudelleen sisäiseen käyttöön, on eri asia kuin työkalu, joka osallistuu päätökseen asiakkaan hyväksymisestä tai henkilöstöarvioinnista. Luokittelu roolin mukaan — mitä järjestelmä tekee — ja riskitason mukaan — mikä on vaikutus, jos jokin menee pieleen — on tarpeen, jotta tiedetään, mihin huomio on kohdistettava. Ilman luokittelua kaikki AI-sovellukset näyttävät raportissa samalta, ja se on juuri se kuva, joka ei auta hallitusta ymmärtämään tilannetta.
CIO:na teillä on luultavasti jo riskikehys IT-järjestelmille, tietoturvalle ja toimittajille. AI-hallinta toimii paremmin, kun se liittyy tähän rakenteeseen kuin jos siitä tehdään erillinen, rinnakkainen kehys. Tämä on myös se, mihin compliance officer ja AI-ohjelmajohtaja törmäävät: liian monta erillistä AI-aloitetta, jotka eivät keskustele toistensa kanssa, kun hallitus odottaa juuri yhtä yhtenäistä vastausta kysymykseen, mitä on käynnissä ja mitä sille tehdään.
Se, mitä varjo-AI tarkoittaa, vaihtelee toimialan mukaan. Rakennusalalla se näyttäytyy eri tavalla kuin asennusalalla, ja kannattaa tutustua siihen, miltä AI-hallinta näyttää rakennusalalla tai miltä se näyttää asennusalalla ennen kuin oletetaan, että yksi lähestymistapa sopii kaikkialle.
Responsible AI Scan, joka tuottaa tämän — inventaarion, luokittelun, hallintakokonaisuuden, joka liittyy olemassa olevaan rakenteeseenne — on rakenteilla. Ken haluaa tarttua tähän jo nyt, voi ilmoittautua jonotuslistalle; valmista tuotetta ei vielä ole tarjolla, ja mieluummin kirjoitamme sen rehellisesti kuin lupaamme jotain, mitä ei vielä ole.
Kun tiedätte, mitä AI:ta käytetään ja millä riskillä, seuraa luonnostaan jatkokysymys: mikä osa työstä itsestään voisi olla AI:n tehtävä, ja mikä osa ei. Tämä on eri kysymys kuin riskienhallinta — kyse on kapasiteetista, ei altistumisesta — ja FTE TO AI:n työskannaus laskee tämän tehtäväkohtaisesti, jotta tiedätte paitsi mitä on jo käynnissä, myös missä AI voisi itse ottaa työn hoitaakseen.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.