Zaposlenik zalijepi dio teksta u besplatni chat prozor jer to radi brže nego interni sustav. Tim se pretplati na AI-alat jer bi zahtjev za nešto službeno trajao tjednima. Dobavljač dodaje AI-funkcionalnost softveru koji je već godinama u upotrebi, bez da se o tome vodio razgovor. Nitko od ovih ljudi ne pokušava nešto skriti. Oni pokušavaju obaviti svoj posao.
To je srž sjene-AI: ne nastaje iz nespremnosti, nego iz jaza između onoga što ljudima treba i onoga što formalni proces isporučuje. Sve dok taj jaz postoji, sjena-AI će nastajati, koliko god se pravila napisalo.
Većina organizacija ima pregled odobrenog softvera. Taj pregled je polazna točka, a ne odraz stvarnosti. Ono što ljudi stvarno koriste, gotovo uvijek ide ispred toga: pitanje kako spriječiti podatke poduzeća u besplatnom chat prozoru ilustrira koliko lako neki alat može ostati potpuno izvan vidokruga. Isto vrijedi za odjel koji na vlastitu inicijativu ugovori pretplatu jer redovni put djeluje presporo, ili za browser ekstenziju koja dobije pristup e-pošti bez posebnog odobrenja za to. Nijedna od tih situacija nije na IT-popisu. Ipak postoje.
Postoji tendencija da se sa sjenom-AI postupa kao s problemom provedbe: zabraniti, blokirati, sankcionirati. To djeluje kontraproduktivno. Onaj tko zna da iskren odgovor dovodi do problema, prestaje davati iskrene odgovore. Alat ne nestaje, postaje nevidljiviji. Upravo suprotno od onoga što organizaciji treba.
Drugi razlog zašto se to ne rješava samo od sebe: postojeća upravljačka struktura (governance) često je izgrađena za softver koji se kupuje i instalira, a ne za uslugu koju netko otvori u pregledniku i sutra opet napusti. Probna postavka koja je jednom bila zamišljena kao privremena pokazuje kako nešto malo, bez jasnog trenutka evaluacije, može trajati godinama bez da se ikoja osoba osjeća vlasnikom toga. Bez procesa koji ovakvu vrstu korištenja strukturno prepoznaje, ostaje ispod radara, koliko god namjere bile dobre.
Jedini način da se sazna što se zbiva, jest pitati. Ne kao kontrola, nego kao inventarizacija. Zaposlenici koji znaju da iskren odgovor ne vodi razgovoru s HR-om, i dat će taj odgovor. To zahtijeva ton i proces koji unaprijed jasno stavljaju do znanja: ovo se odnosi na stjecanje uvida, a ne na progon nekoga.
Uz to ide i pažnja na način na koji se novi procesi postavljaju uz postojeće. Drugi proces koji se postavlja uz postojeći bez da se prvi prilagodi ili povuče, često se ignorira, jednostavno jer ljudi ostaju pri svojoj navici. Inventarizacija koja se nameće kao dodatna obveza povrh posla, dobiva isti tretman.
Čim je jasno što se stvarno koristi, slijedi sljedeće pitanje: što taj alat radi i kakav rizik uz to ide. Alat koji sažima tekst za internu upotrebu traži nešto drugo od alata koji sudjeluje u odluci o prihvatu klijenta ili ocjeni zaposlenika. Ta klasifikacija po ulozi i razini rizika pretvara inventar u nešto upotrebljivo: temelj na kojem upravni odbor, CIO ili General Counsel može objasniti što se zbiva i zašto je to opravdano.
Ova razina upravljanja (governance) nadovezuje se na strukturu rizika koju organizacija već ima, a ne na novi okvir uz nju. Sadržaj pravila kojima AI-primjene moraju odgovarati mijenja se i ažurira se drugdje; što je ovdje bitno, jest da organizacija ima funkcionalan način da zna što se koristi, ko je za to odgovoran, i kako se to može dokazati upravnom odboru ili nadzornom tijelu.
Čim je jasno koji se AI stvarno koristi i s kojim rizikom to ide, prirodno se javlja drugo pitanje: koji dio posla bi AI-primjena zapravo mogla preuzeti, a koji ne. To je drugo pitanje od pitanja odobrenja i nadzora, ali logično slijedi na njega. Radni scan (werkscan) FTE TO AI izračunava po zadatku koji dio posla se može prepustiti AI-u, na temelju onoga što funkcija stvarno obuhvaća. Gdje Responsible AI Scan uvodi red u ono što se već koristi, radni scan prikazuje što se još može dobiti.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.