ICT sektor ima poziciju koju nema nijedan drugi sektor: ovdje se AI ne samo koristi, već se i izrađuje, integrira i preprodaje. Razvojni programer koji spaja jezični model s aplikacijom, konzultant koji ugrađuje AI funkciju u projekt za klijenta, tim koji finetunira open-source model — to nisu iznimke, to je svakodnevni posao. Odnos između onoga što organizacija sama odlučuje i onoga što pojedini zaposlenik ili tim sam dodaje, u ovom sektoru je drukčiji nego u banci ili građevinskoj tvrtki. Dok je u drugim sektorima AI dodatak postojećim procesima, u ICT sektoru AI je često sastavni dio samog proizvoda. To znači da upravljanje ne obuhvaća samo interne alate, nego i ono što se nalazi u softveru koji se isporučuje trećim stranama.
U mnogim sektorima IT odjel je taj koji ima pregled nad tim što se koristi. U ICT sektoru ta pretpostavka je slabija nego drugdje, upravo zato što gotovo svatko sam ima tehničko znanje potrebno za zahtjev API ključa, preuzimanje modela ili ugradnju AI funkcije u kodnu bazu bez prethodnog zahtjeva, licence ili postupka odobravanja. Programer koji koristi jezični model za generiranje koda, arhitekt koji testira AI agenta u sandboxu, prodajni tim koji izrađuje demo s vanjskim modelom — te odluke donose se na razini projekta, ne na razini uprave. Inventar koji polazi od kupljenih licenci zato propušta znatan dio onoga što se stvarno događa. Pitanje nije postoji li shadow AI, nego koliko se dio produkcijskog okruženja već na njega oslanja bez da je to ikad zabilježeno.
Tehnička sredstva za otkrivanje korištenja AI-ja postoje, ali ona često vide samo ono što prolazi kroz poslovne mreže i upravljane uređaje. U sektoru gdje se veliki dio posla odvija u vlastitim razvojnim okruženjima, osobnim računima i projektima za klijente s vlastitom infrastrukturom, to je ograničena slika. Najpotpunija informacija dolazi od ljudi koji obavljaju posao. To funkcionira samo ako se pitanje postavi bez posljedica: netko koji zna da iskren odgovor dovodi do sankcije, neće odgovoriti iskreno. Kako spriječiti da zaposlenici koriste alat koji nitko nije odobrio zato ne počinje kontrolom, nego pozivom da se prijavi ono što se već događa. To je drugačiji redoslijed od onog na koji su navikle većina organizacija, a u ICT sektoru taj redoslijed je posebno važan, jer nepovjerenje između razvojnih timova i odjela za usklađenost ovdje je često već prisutno.
Ne svako korištenje AI-ja u ICT sektoru zahtijeva istu pažnju. Model koji sažima internu dokumentaciju drukčiji je od modela koji sudjeluje u odlučivanju o pravima pristupa ili koji radi kao dio isporučenog proizvoda kod klijenta. Klasifikacija prema ulozi i razini rizika zato nije nešto što se dogodi jednom, nego nešto što se mora prilagođavati onome što tim izrađuje. To je drukčija dinamika nego u sektorima sa stabilnijim procesima, kao što je vidljivo u opisima upravljanja u financijskim uslugama ili energetskom sektoru, gdje AI primjene obično ostaju unutar stalne operativne strukture. U ICT sektoru primjena se ponekad mijenja brže nego što klasifikacija može pratiti, što znači da sama struktura upravljanja mora imati prostora za ponovnu procjenu, ne samo za jednokratno odobravanje.
Rizik koji u ICT sektoru dobiva svoju posebnu obojenost jest korištenje besplatnih ili javnih AI alata za posao koji je zapravo povjerljiv: izvorni kod, podaci o klijentima, interna arhitektura, uvjeti ugovora. Programer koji brzo dâ provjeriti dio koda putem javnog modela ne razmišlja o tome što se događa s tim unosom. Kako spriječiti da podaci tvrtke dospiju u besplatni prozor za chat opisuje taj mehanizam, a u ovom sektoru je relevantniji nego u većini drugih, jer podaci koji izlaze često nisu samo osobni podaci, nego i intelektualno vlasništvo i kod klijenta. Struktura upravljanja koja o tome ništa ne propisuje ostavlja rizik na pojedinom zaposleniku, dok izloženost snosi organizacija.
Upravitelj ili glavni pravni savjetnik u ICT sektoru često već ima okvire rizika za informacijsku sigurnost, kvalitetu softvera i upravljanje dobavljačima. AI upravljanje funkcionira bolje ako se nadovezuje na tu postojeću strukturu nego ako postane odvojen proces koji nitko ne prepoznaje. To vrijedi ovdje jače nego u sektorima kao što su nekretnine ili građevinarstvo, gdje AI upravljanje često još počinje od praznog lista. U ICT sektoru obično već postoji jezik rizika koji je prisutan; posao je proširiti taj jezik, a ne zamijeniti ga.
Responsible AI Scan mapira što se u organizaciji koristi od AI-ja, uključujući ono što je nastalo izvan službenog popisa, i tome pridodaje klasifikaciju prema ulozi i razini rizika. Rezultat je skup pravila upravljanja koji se nadovezuje na postojeću strukturu, a nije novi okvir uz nju. Alat koji to podupire još je u izradi. Tko ga želi koristiti, može se prijaviti na listu čekanja; trenutno se ništa drugo ne isporučuje osim te prijave.
Čim postane vidljivo koje AI primjene postoje i koja razina rizika im pripada, samo se po sebi nameće sljedeće pitanje: koji dio posla koji sada još obavljaju ljudi prikladan je da se prepusti tim primjenama. To je drugo pitanje od upravljanja, a odgovor na njega daje radni sken FTE TO AI, koji po zadatku izračunava koji dio posla može preuzeti AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.