ICT-sektor ima položaj, ki ga nima noben drug sektor: tu se AI ne uporablja samo, tu se tudi gradi, integrira in prodaja naprej. Razvijalec, ki poveže jezikovni model z aplikacijo, svetovalec, ki AI-funkcijo vgradi v projekt za stranko, ekipa, ki fine-tunira odprtokodni model — to niso izjeme, to je vsakodnevno delo. Razmerje med tem, kaj organizacija sama odloči, in tem, kaj posamezen zaposleni ali ekipa sama dodaja, je v tem sektorju drugačno kot pri banki ali gradbenem podjetju. Kjer je v drugih sektorjih AI dodatek k obstoječim procesom, je AI v ICT-sektorju pogosto del samega produkta. To pomeni, da governance ne zadeva le internih orodij, ampak tudi tega, kaj je vsebovano v programski opremi, ki se dobavlja tretjim osebam.
V mnogih sektorjih je IT-oddelek tisti, ki ima pregled nad tem, kaj teče. V ICT-sektorju je ta predpostavka šibkejša kot drugod, prav zato, ker ima praktično vsak sam tehnično znanje, da zaprosi za API-ključ, prenese model ali vgradi AI-funkcijo v kodno bazo, ne da bi temu predhodila prošnja, licenca ali postopek odobritve. Razvijalec, ki uporabi jezikovni model za generiranje kode, arhitekt, ki testira AI-agenta v peskovniku, prodajna ekipa, ki zgradi demo z zunanjim modelom — te odločitve se sprejemajo na ravni projekta, ne na ravni vodstva. Inventura, ki se začne pri kupljenih licencah, zato zgreši velik del tega, kar se v resnici dogaja. Vprašanje ni, ali obstaja senčni AI, ampak koliko produkcijskega okolja se že zdaj nanj naslanja, ne da bi to kdo zapisal.
Tehnična sredstva za odkrivanje uporabe AI obstajajo, vendar pogosto zaznajo le tisto, kar poteka prek poslovnih omrežij in upravljanih naprav. V sektorju, kjer se veliko dela odvija v lastnih razvojnih okoljih, osebnih računih in projektih za stranke z lastno infrastrukturo, je to omejena slika. Najbolj popolna informacija prihaja od ljudi, ki delo opravljajo. To deluje le, če je vprašanje postavljeno brez posledic: nekdo, ki ve, da bo iskren odgovor privedel do sankcije, ne odgovori iskreno. Kako preprečite, da bi zaposleni uporabljali orodje, ki ga ni nihče odobril zato ne začne s nadzorom, ampak s povabilom, da se prijavi, kaj se že dogaja. To je drugačen vrstni red, kot ga poznajo večina organizacij, in v ICT-sektorju je ta vrstni red še posebej pomemben, ker je nezaupanje med razvojnimi ekipami in oddelki za skladnost tu pogosto že prisotno.
Ne vsaka uporaba AI v ICT-sektorju zahteva enako pozornost. Model, ki povzema interno dokumentacijo, je drugačen od modela, ki soodloča o pravicah dostopa ali ki teče kot del dobavljenega produkta pri stranki. Razvrščanje po vlogi in ravni tveganja zato ni nekaj, kar se zgodi enkrat, ampak nekaj, kar se mora premikati skupaj s tem, kaj ekipa gradi. To je drugačna dinamika kot v sektorjih s stabilnejšimi procesi, kot je razvidno iz opisov governance v finančnih storitvah ali energetskem sektorju, kjer AI-uporaba ponavadi ostaja znotraj stabilne operativne strukture. V ICT-sektorju se uporaba včasih spreminja hitreje, kot lahko klasifikacija sledi, kar pomeni, da mora imeti struktura governance samo prostor za ponovno presojo, ne le za enkratno odobritev.
Tveganje, ki v ICT-sektorju dobi svojo posebno barvo, je uporaba brezplačnih ali javnih AI-orodij za delo, ki je pravzaprav zaupno: izvorna koda, podatki o strankah, interna arhitektura, pogodbeni pogoji. Razvijalec, ki hitro dá preveriti del kode javnemu modelu, ne pomisli na to, kaj se zgodi s tem vnosom. Kako preprečite, da bi poslovni podatki pristali v brezplačnem klepetalnem oknu opisuje ta mehanizem, in v tem sektorju je bolj relevanten kot v večini drugih, ker podatki, ki uhajajo, pogosto niso le osebni podatki, ampak tudi intelektualna lastnina in koda strank. Struktura governance, ki o tem nič ne zapiše, tveganje pusti pri posameznem zaposlenem, medtem ko izpostavljenost nosi organizacija.
Vodja ali generalni pravni svetovalec (General Counsel) v ICT-sektorju ima pogosto že vzpostavljene okvire tveganj za informacijsko varnost, kakovost programske opreme in upravljanje z dobavitelji. AI-governance deluje bolje, če se navezuje na to obstoječo strukturo, kot če postane ločen postopek, ki ga nihče ne prepozna. To velja tu močneje kot v sektorjih, kot je nepremičninski sektor ali gradbeništvo, kjer AI-governance pogosto še začenja na prazni strani. V ICT-sektorju ponavadi že obstaja jezik tveganja; delo je ta jezik razširiti, ne pa ga nadomestiti.
Responsible AI Scan prikaže, kaj v organizaciji teče na področju AI, vključno s tem, kar je nastalo mimo uradnega seznama, in temu doda razvrstitev po vlogi in ravni tveganja. Rezultat je nabor governance-ukrepov, ki se navezuje na obstoječo strukturo, ne nov okvir poleg nje. Orodje, ki to podpira, je še v izdelavi. Kdor bi ga želel uporabljati, se lahko prijavi na čakalno listo; trenutno se poleg te prijave še nič ne dobavlja.
Brž ko je razvidno, katere AI-uporabe obstajajo in katera raven tveganja jim ustreza, samo po sebi sledi naslednje vprašanje: kateri del dela, ki ga zdaj še opravljajo ljudje, je primeren za prenos na te uporabe. To je drugo vprašanje kot governance, in nanj odgovarja delovni skener podjetja FTE TO AI, ki po nalogah izračuna, kateri del dela je mogoče prevzeti z AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.