Kennisbank

Kako preprečite oddelek z lastno naročnino?

Marketinška ekipa potrebuje pomočnika za pisanje. Finančni analitik želi orodje, ki povzema preglednice. Nihče od njih ne čaka na nabavni postopek, ki traja mesece. Obstaja kreditna kartica, e-poštni naslov, in v desetih minutah je tu naročnina, ki jo oddelek sam plača, sam upravlja in sam uporablja. IT-oddelek o tem ne ve ničesar. Ni razloga, da bi to sporočili, saj ni bilo storjeno nič narobe — le rešen je bil problem.

Kako to nastane

Večina sence AI se ne začne s poskusom izogibanja pravilom. Začne se z nalogo, ki mora biti opravljena hitreje, rokom, ki ne čaka na postopek odobritve, in orodjem, ki je dostopno brez posredovanja koga drugega. Oddelek, ki se naroči, tega ne vidi kot IT-odločitev. Občuti se kot pisarniški pripomoček, nič drugačen od programske licence, ki jo je vsak že uporabljal, preden je obstajala centralna nabavna politika. Da jezikovni model obdeluje poslovne podatke, bere podatke o strankah ali generira osnutek besedila, ki gre navzven, za uporabnika ni vprašanje upravljanja. To je preprosto delo.

Enaka dinamika je prisotna pri dobavitelju, ki je AI vgradil v svoj izdelek, ne da bi o tem potekal poseben pogovor: funkcionalnost se pojavi v posodobitvi, nihče zanjo ničesar ne podpiše, in organizacija jo uporablja, preden kdorkoli ugotovi, kdo je za to odgovoren.

Zakaj to ne izgine samo od sebe

Objava, da nepooblaščena orodja niso dovoljena, malo spremeni. Oddelek, ki ima naročnino, jo doživlja kot rešitev, ki deluje, ne kot tveganje, ki ga je treba prijaviti. Prepoved brez alternative prinese dve stvari: naročnina gre v podzemlje, ali pa ekipa z njo preneha in delo spet postane počasnejše. Nobeno od tega ni tisto, kar si organizacija želi.

Poleg tega takšna naročnina redko ostane enkratna odločitev. Postane del delovnega toka, povezana z drugimi orodji, uporabljena v procesih, ki so od nje že odvisni. Kar se začne kot poskus, postane stalen del tega, kako ekipa dela — natanko vzorec, ki je viden tudi pri poskusni postavitvi, ki nikoli ni bila ugasnjena: nihče se ni odločil, da jo naredi trajno, a nihče se tudi ni odločil, da jo ustavi.

Kaj obračunavanje ne prinese

Refleks, da se senco AI izsledi in uporabnika sooči z njo, deluje kontraproduktivno. Kdor ve, da bo prijava vodila do graje, ne prijavi. Naročnina ostane, le manj vidna. Oddelek postane previdnejši pri tem, kaj poroča, ne pa skrbnejši pri tem, kaj uporablja.

Kar deluje, je spraševanje brez sankcije, ki je vezana nanj. Ekipa, ki uporablja orodje za pospešitev naloge, ima za to običajno razlog, ki ga organizacija želi poznati: proces, ki je prepočasen, naloga, ki je preobremenjena, potreba, ki je obstoječa ponudba ne pokriva. Poglejte, kako je to opisano pri zaposlenih, ki uporabljajo orodje, ki ga nihče ni odobril — izhodišče ni kršitev, temveč potreba, ki stoji za njo.

Kaj lahko organizacija naredi s tem

Prvi korak ni izvajanje, temveč popis: katera orodja obstajajo, kdo jih uporablja, za katero nalogo in s katerimi podatki. To se ne zgodi prek IT-seznama — ta beleži, kaj je odobreno, ne kaj se uporablja. Zgodi se s spraševanjem, na način, ki ne vsebuje grožnje.

Ko je jasno, kaj se dogaja, lahko sledi razvrstitev: kakšno vlogo ima orodje, kakšna raven tveganja mu ustreza in kakšna oblika nadzora je primerna. Ni vsaka naročnina, ki jo je oddelek sklenil sam, problem. Orodje, ki prepisuje javno besedilo, spada v drugo kategorijo kot orodje, ki obdeluje podatke o strankah, ne da bi kdo vedel, kam ti podatki gredo. Razlikovanje med temi kategorijami je natanko to, za kar gre pri človeškem nadzoru v praksi: ne zahteva vsaka uporaba enake stopnje nadzora, a vsaka uporaba zahteva, da se ve, da obstaja.

Nato sledi struktura upravljanja, ki se navezuje na tisto, kar že obstaja — ne nov proces poleg obstoječega okvira za obvladovanje tveganj, temveč njegova razširitev. Organizacija, ki AI-tveganje obravnava ločeno od preostalega upravljanja tveganj, tvega, da bo drugi sistem prezrt, kot je razvidno iz drugega procesa poleg obstoječega, ki je prezrt. Pristop, ki obstane, je tisti, ki se navezuje na tisto, kar organizacija že počne za obvladovanje tveganja.

Vprašanje, ki ostane

Naročnina, ki jo je oddelek sklenil sam, je običajno signal, da je treba nekaj opraviti hitreje, kot to dopušča trenutni proces. To vprašanje — kateri del dela se lahko pospeši in kje se to lahko zgodi strukturirano namesto neopazno — je natanko tisto, na kar odgovarja delovni pregled (werkscan) podjetja FTE TO AI. Delovni pregled za vsako nalogo izračuna, kateri del dela lahko prevzame AI, tako da potreba, ki je pripeljala do sence naročnine, dobi mesto znotraj procesa, ki ga organizacija dejansko pozna in dejansko upravlja.