Mnoge inicijative za upravljanje počinju s novim procesom: obrascem, korakom odobravanja, odborom koji treba procijeniti korištenje AI-a prije nego što se s njim počne. Pretpostavka je da će zaposlenici slijediti taj proces jednostavno zato što postoji. U praksi se to rijetko događa. Onaj koji zadatak može obaviti brže pomoću alata koji je sam pronašao, ne traži dopuštenje od odbora čiji dnevni red ne poznaje i čije trajanje postupka ne može procijeniti. On koristi alat i o tome ne govori.
To nije nespremnost. To je racionalna reakcija na proces koji stoji uz posao, a ne unutar njega. Drugi proces zahtijeva vrijeme, donosi neizvjesnost oko ishoda i ne nudi vidljivu prednost onome koji ga slijedi. Vjerojatnost da će biti ignoriran tada je veća od vjerojatnosti da će biti slijeđen.
Posljedica nije da se AI ne koristi. Posljedica je da se AI koristi izvan vidnog polja onoga koji je za to odgovoran. IT popis odobrenih alata tada ostaje opis onoga što je nekad zatraženo, a ne onoga što se stvarno koristi. Između ta dva popisa može postojati znatna razlika, i nitko koji gleda samo odobreni popis ne može tu razliku uočiti.
Ovo se izravno dotiče pitanja tko je odgovoran kada AI aplikacija pogriješi. Rukovoditelj koji želi moći utvrditi odgovornost mora znati koji je sustav utjecao na odluku. Ako taj sustav nikada nije registriran zato što je postupak registracije preskočen, ta osnova nedostaje upravo u trenutku kada je potrebna.
Metoda koju primjenjujemo ne počinje s procesom odobravanja, nego s inventarizacijom koja pita, a ne provjerava. Razlika je mala po obliku, a velika po učinku. Zaposlenik kojeg se pita što koristi i za što, bez da to za njega ima posljedice, nema razloga skrivati odgovor. Zaposlenik koji zna da iskren odgovor može dovesti do zabrane ili korekcije, ima sve razloge prilagoditi odgovor.
Ovo je osjetljiva točka metode i radije je imenujemo nego prešućujemo. Inventarizacija bez sankcioniranja daje iskreniju sliku od revizije s posljedicama, ali ne pruža garanciju da će svako korištenje biti prijavljeno. Onaj koji koristi alat za koji sumnja da je problematičan, može i dalje o tome ćutjeti, i bez izravne prijetnje. Inventarizacija snižava prag za prijavljivanje; ona ga ne uklanja u potpunosti. Što metoda pruža jest veća vjerojatnost potpune slike nego proces koji unaprijed već nagovješćuje kaznu.
Drugi proces biva ignoriran. Dopuna postojećeg procesa ima veću šansu opstati. Zato klasificiramo korištenje AI-a po ulozi i razini rizika unutar strukture upravljanja rizicima koju organizacija već primjenjuje, umjesto da se postavi nova struktura uz nju. Ono što se klasificira kao visokorizično dolazi na isto mjesto kao i drugi visoki rizici unutar postojećeg registra rizika. To znači da i pitanje koliko često treba ponovno klasificirati ne zahtijeva novi kalendar, nego se uklapa u postojeći ciklus procjene rizika.
Ovo uklapanje ne rješava sve. AI registar koji je jednom sastavljen zastarijeva u trenutku kada netko počne koristiti novi alat bez prijavljivanja. Zato je pitanje kako AI registar ostaje aktualan jednako važno kao i prva inventarizacija. Registar koji se ne održava, nakon nekog vremena opet postaje opis prošlosti.
Nadzor nad korištenjem AI-a često se predstavlja kao tehničko pitanje: sustav koji nadzire, nadzorna ploča koja prijavljuje. Ali nadzor koji funkcionira počinje s ljudima koji razumiju zašto prijavljivanje ima smisla i koji znaju što se događa s njihovim odgovorom. To je pitanje ponašanja, ne samo tehnike, i povezano je s tim što ljudski nadzor u praksi znači na radnom mjestu, te s tim što AI pismenost zaposlenika konkretno obuhvaća. Bez tog razumijevanja, svaki proces, koliko god dobro osmišljen, ostaje obrazac koji ljudi popunjavaju jer moraju, a ne jer to nešto donosi.
Ovaj pristup ne daje potpunu sigurnost da će se pronaći sve primjene AI-a. On snižava prag za prijavljivanje i uklapa se u postojeće strukture, ali organizacija koja provodi inventarizaciju po prvi put mora uzeti u obzir da dio korištenja ostaje nevidljiv, iako je taj dio nakon pažljive inventarizacije obično manji nego prije nje.
Inventarizacija korištenja AI-a pokazuje što se odvija i tko to koristi, ali još ne govori koliko se od temeljnog posla stvarno može prepustiti AI-u. To pitanje ide korak dalje i odgovara na njega radna skenu (werkscan) tvrtke FTE TO AI, koja po zadatku izračunava koji dio posla može biti preuzet. Onaj koji jednom znade koji se alati koriste u organizaciji, može uz pomoć te skenu istražiti što to korištenje znači za oblikovanje samog rada.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.