ICT-sektorilla on asema, jota millään muulla sektorilla ei ole: siellä AI:ta ei vain käytetä, sitä myös rakennetaan, integroidaan ja myydään edelleen. Kehittäjä, joka liittää kielimallin sovellukseen, konsultti, joka sisällyttää AI-toiminnon asiakasprojektiin, tiimi, joka hienosäätää avoimen lähdekoodin mallia — ne eivät ole poikkeuksia, se on päivittäistä työtä. Suhde sen välillä, mitä organisaatio itse päättää ja mitä yksittäinen työntekijä tai tiimi lisää siihen itse, on tällä sektorilla erilainen kuin pankissa tai rakennusyrityksessä. Missä muilla sektoreilla AI on lisäys olemassa oleviin prosesseihin, ICT-sektorilla AI on usein osa itse tuotetta. Se tarkoittaa, että hallinta ei koske vain sisäisiä työkaluja, vaan myös sitä, mitä on ohjelmistossa, joka toimitetaan kolmansille osapuolille.
Monilla sektoreilla IT-osasto on se, jolla on näkymä siihen, mitä on käytössä. ICT-sektorilla se olettamus on heikompi kuin muualla, juuri siksi, että käytännössä kaikilla on itsellään tekninen osaaminen pyytää API-avain, latautua malli tai sisällyttää AI-toiminto koodikantaan ilman, että sitä edeltää pyyntö, lisenssi tai hyväksyntäprosessi. Kehittäjä, joka käyttää kielimallia koodin generoimiseen, arkkitehti, joka testaa AI-agenttia sandboxissa, myyntitiimi, joka rakentaa demon ulkoisella mallilla — nämä valinnat tehdään projektitasolla, ei johtotasolla. Inventaario, joka alkaa ostetuista lisensseistä, jättää siksi huomaamatta merkittävän osan siitä, mitä todella tapahtuu. Kysymys ei ole siitä, onko olemassa varjo-AI:ta, vaan siitä, kuinka suuri osa tuotantoympäristöstä nojaa siihen nykyisin ilman, että kukaan on sitä kirjannut.
Tekniset keinot AI-käytön havaitsemiseen ovat olemassa, mutta ne näkevät usein vain sen, mikä kulkee yrityksen verkkojen ja hallinnoitujen laitteiden kautta. Sektorilla, jossa paljon työtä tehdään omissa kehitysympäristöissä, henkilökohtaisilla tileillä ja asiakasprojekteissa omalla infrastruktuurilla, se on rajallinen kuva. Kattavin tieto tulee ihmisiltä, jotka tekevät työn. Se toimii vain, jos kysymys esitetään ilman rangaistusta: joku, joka tietää, että rehellinen vastaus johtaa seuraamukseen, ei vastaa rehellisesti. Miten estätte työntekijöitä käyttämästä työkalua, jota kukaan ei ole hyväksynyt ei siis ala valvonnasta, vaan kutsusta ilmoittaa, mitä jo tapahtuu. Se on eri järjestys kuin mihin useimmat organisaatiot ovat tottuneet, ja ICT-sektorilla se järjestys on erityisen tärkeä, koska kehitystiimien ja compliance-osastojen välinen epäluottamus on tässä usein jo läsnä.
Kaikki AI-käyttö ICT-sektorilla ei vaadi samaa huomiota. Malli, joka tiivistää sisäistä dokumentaatiota, on eri asia kuin malli, joka osallistuu pääsyoikeuksia koskevaan päätöksentekoon tai joka toimii osana asiakkaalle toimitettua tuotetta. Luokittelu roolin ja riskitason mukaan ei siksi ole asia, joka tapahtuu vain kerran, vaan asia, jonka on liikuttava sen mukana, mitä tiimi rakentaa. Se on eri dynamiikka kuin vakaammilla prosesseilla toimivilla sektoreilla, kuten voi lukea kuvauksista AI-hallinnasta rahoituspalvelualalla tai energiasektorilla, joissa AI-sovellukset pysyvät yleensä kiinteän operatiivisen rakenteen sisällä. ICT-sektorilla sovellus muuttuu joskus nopeammin kuin luokittelu pystyy seuraamaan, mikä tarkoittaa, että hallintarakenteen itsessään täytyy jättää tilaa uudelleenarvioinnille, ei vain kertaluonteiselle hyväksynnälle.
Riski, joka saa ICT-sektorilla oman erityisen luonteensa, on ilmaisten tai julkisten AI-työkalujen käyttö työhön, joka on todellisuudessa luottamuksellista: lähdekoodi, asiakastiedot, sisäinen arkkitehtuuri, sopimusehdot. Kehittäjä, joka antaa julkisen mallin nopeasti tarkistaa koodinpätkän, ei ajattele, mitä sille syötölle tapahtuu. Miten estätte yritystietojen joutumisen ilmaiseen chat-ikkunaan kuvaa tätä mekanismia, ja se on tällä sektorilla relevantimpi kuin useimmilla muilla, koska tiedot, jotka vuotavat, eivät ole usein vain henkilötietoja, vaan myös immateriaalioikeuksia ja asiakaskoodia. Hallintarakenne, joka ei kirjaa siitä mitään, jättää riskin yksittäiselle työntekijälle, kun altistuminen on organisaatiolla.
Hallituksen jäsenellä tai General Counselilla ICT-sektorilla on usein jo riskikehykset tietoturvalle, ohjelmistolaadulle ja toimittajahallinnalle. AI-hallinta toimii paremmin, kun se liittyy siihen olemassa olevaan rakenteeseen kuin kun siitä tulee erillinen prosessi, jota kukaan ei tunnista. Se pätee tässä vahvemmin kuin sektoreilla kuten kiinteistösektori tai rakennusala, joissa AI-hallinta alkaa usein vielä tyhjältä pöydältä. ICT-sektorilla on yleensä jo olemassa riskikieli; työ on laajentaa sitä kieltä korvaamatta sitä.
Responsible AI Scan kartoittaa, mitä AI:ta organisaatiossa on käytössä, mukaan lukien se, mikä on syntynyt virallisen listan ulkopuolella, ja liittää siihen luokittelun roolin ja riskitason mukaan. Tuloksena on hallintakokonaisuus, joka liittyy olemassa olevaan rakenteeseen, ei uusi kehys sen viereen. Tätä tukeva työkalu on tällä hetkellä vielä rakenteilla. Se, joka haluaa käyttää tätä, voi ilmoittautua jonotuslistalle; tällä hetkellä ei toimiteta mitään muuta kuin tämä ilmoittautuminen.
Kun on nähtävissä, mitä AI-sovelluksia on olemassa ja mikä riskitaso niihin liittyy, seuraa luonnollisesti seuraava kysymys: mikä osa työstä, jota vielä tällä hetkellä tekevät ihmiset, on sopivaa jättää näiden sovellusten hoidettavaksi. Se on eri kysymys kuin hallinta, ja siihen vastaa FTE TO AI:n työskannaus, joka laskee tehtäväkohtaisesti, kuinka suuri osa työstä on AI:n otettavissa hoidettavaksi.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.