AI-järjestelmän hankkiminen ja käyttäminen sellaisena kuin se toimitetaan on eri tilanne kuin mallin mukauttaminen omaan dataan tai tarkoitukseen. Tämä mukauttaminen voi muuttaa organisaationne luokittelua — ja sen myötä kysymyksiä, joihin teidän on kyettävä vastaamaan. Tapahtuuko tämä ja kuinka painava se on, riippuu siitä, mitä täsmälleen mukautetaan ja mihin järjestelmää käytetään.
Luokittelu ei riipu siitä, olette itse kirjoittaneet lähdekoodin. Se riippuu siitä, mitä mallille tosiasiallisesti tapahtuu sen jälkeen, kun se tulee käyttöönne. Muutamia siihen vaikuttavia tekijöitä:
Nämä tekijät vaikuttavat yhdessä. Ei ole kiinteää kynnysarvoa, joka pätisi kaikissa tapauksissa; ajankohtainen sääntely tarkkoine kriteereineen on esitetty muualla, ja se teksti voi muuttua. Se, mikä tällä sivulla pysyy voimassa, on mekanismi: mukauttaminen voi muuttaa roolia, ja rooli määrittää velvoitteen.
Rooli, jonka organisaationne ottaa AI-järjestelmän suhteen, ei ole kiinteä. Sillä, joka vain käyttää mallia sellaisena kuin se toimitettiin, on tavallisesti eri asema kuin sillä, joka muuttaa mallia ja sen jälkeen tuo sen itse markkinoille tai ottaa sen sisäisesti käyttöön laajassa mittakaavassa. Kysymystä siitä, milloin tämä siirtymä tapahtuu ja mikä sillä hetkellä muuttuu siinä, mitä teidän on kyettävä osoittamaan, käsitellään sivulla milloin roolinne muuttuu ja mistä se raja riippuu. Organisaatioille, jotka epäilevät ovatko ne tarjoaja tai käyttäjä — kysymys, joka nousee esiin yleisemmin kuin luultaisi, kun sisäisiä mukautuksia tehdään — on erillinen selvitys sivulla tarjoajan ja käyttäjän ero AI-järjestelmässä.
Syy, miksi tämä on merkityksellistä, ei ole muodollinen. Roolin muutos muuttaa sen, mitä teidän on kyettävä osoittamaan: mitä dokumentaatiota ylläpidätte, kuka organisaatiossa vastaa valvonnasta, ja mitkä toimenpiteet on tehty ennen mukautetun järjestelmän käyttöönottoa. Malli, jonka olette itse mukauttaneet, on malli, jonka mukautuksen syntytavasta teiltä voidaan itse kysyä vastuuta.
Mukautus voi vaikuttaa myös sovelluksen riskitasoon. Malli, joka alun perin oli tarkoitettu kevyeen sovellukseen, voi mukautuksen seurauksena joutua vaativampaan luokkaan — esimerkiksi kun sitä mukautuksen jälkeen käytetään ihmisiä koskeviin päätöksiin. Se, mitä korkea riskitaso konkreettisesti tarkoittaa organisaationne velvoitteille, on esitetty sivulla mitä korkea riskitaso tarkoittaa organisaationne vaatimuksille. Myös tässä pätee: luokittelu seuraa käytöstä, ei siitä tarkoituksesta, jolla malli aikoinaan rakennettiin.
Tämä liittyy suoraan varjo-AI:n ytimeen. Mukautus, joka ei kulje IT:n kautta — tiimi, joka hienosäätää mallia itse omalla datajoukolla, tai osasto, joka yhdistää ulkoisen mallin sisäisiin järjestelmiin ilman siitä raportointia — muuttaa organisaationne luokittelun ilman, että johto on siitä tietoinen. IT-listalta tätä mukautusta ei näe. Sen, joka haluaa tietää tapahtuuko tätä, on kysyttävä tiimeiltä, jotka työskentelevät sen kanssa päivittäin, ja tämä keskustelu tuottaa tulosta vain, jos se käydään ilman seurauksia.
Kun mukautus muuttaa sovelluksen roolia tai riskitasoa, muuttuu useita asioita samanaikaisesti: dokumentaatio, jota on ylläpidettävä, kysymys siitä, kuka organisaatiossa omistaa kyseisen sovelluksen, ja hetki, jolloin jokin on vielä suunniteltavissa versus jokin, joka vaatii jo huomiota. Tämä erottelu — sen välillä, mikä on nyt kiireellistä ja mikä voidaan aikatauluttaa — liittyy tekijöihin, jotka on selitetty sivulla mikä vaatii huomiota nyt ja mikä voidaan aikatauluttaa. Laajempi käsittely itse luokittelukysymyksestä, mukaan lukien käytännössä yleisimmät rajatapaukset, löytyy sivulta täydellinen selitys siitä, mikä muuttuu mallin mukauttamisessa itse.
Mukautettu malli on käytännössä usein myös malli, joka ottaa osan työstä ihmisiltä, jotka aiemmin tekivät tehtävän kokonaan itse. Onko tämä niin ja kuinka suuri osa työstä on kyseessä, on kysymys, joka on erillinen luokittelukysymyksestä mutta seuraa siitä usein: kun on selvää, että malli on mukautettu ja mihin sitä käytetään, käy myös näkyväksi, minkä osan tehtävästä se tosiasiallisesti suorittaa. FTE TO AI:n työscan laskee tämän tehtäväkohtaisesti ja näyttää, minkä osan työstä AI voi ottaa hoitaakseen, riippumatta siitä, miten taustalla oleva malli on syntynyt.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.