re-ai-gov Na listi čekanja

Kennisbank

Što se događa kada zaposlenik otvori besplatni chat prozor

Prozor koji je uvijek otvoren

Zaposlenik zapne na tekstu, sažetku, dijelu koda ili e-mailu koji baš ne ide dobro. Postoji chat prozor, besplatan, izravno dostupan, bez čekanja i bez obrasca. Tekst ide unutra, uključujući ime klijenta, iznos ugovora, odlomak iz osobnog dosjea ili izvorni kod koji ide s tim. Odgovor stiže, posao je gotov, prozor se zatvara. Nitko za to nije tražio dopuštenje, i nitko nije odbio, jer nitko nije znao.

Ovo nije incident. To je predvidljiv obrazac koji nastaje u svakoj točki gdje je radni pritisak veći od truda potrebnog za postavljanje pitanja. Rok, prazan odgovor na pitanje koje tvrtka ne dopušta niti izričito zabranjuje, i besplatan alat koji je brži od interno procesa: ta kombinacija sama od sebe dovodi do ovog ponašanja, bez obzira na sektor ili veličinu organizacije.

Zašto to ne nestaje sам od sebe

Zabrana u dokumentu politike ne mijenja ništa u trenutku kada rok pritišće. Chat prozor ostaje dostupan, zaposlenik ostaje pod pritiskom, a odvagivanje između "brzo završeno" i "po pravilima" češće ispada u korist brzo završenog. To nije nevoljkost. To je organizacija koja je učinila lakšim korištenje prozora nego da se u to ne upušta.

Obrazac je vrlo sličan onome što se događa kada odjel sam preuzme pretplatu: netko uočava problem, pronalazi rješenje koje je dostupno unutar budžeta i bez procesa odobrenja, i djeluje. Razlika je da chat prozoru nije potrebna stavka nabave. Nema računa koji upada u oči, nema ugovora koji mora proći pravnu službu, nema pretplate koja se nalazi u pregledu. Korištenje ne ostavlja trag osim u povijesti pretraživača jednog zaposlenika, a ponekad ni to.

Zbog toga to i dalje postoji uz svaki formalni proces koji je organizacija zapravo uspostavila. Onaj koji izgradi odobrenu alternativu, ali ne blokira besplatni prozor ili ga ne učini neprivlačnim, vidi upravo isti učinak koji se javlja i kada drugi proces uz postojeći bude zanemaren: novi sustav se ne koristi, jer stari djeluje brže ili je jednostavno postao navika.

Što IT popis ne prikazuje

Inventar odobrenog softvera govori što je nabavljeno. Ne govori ništa o tome što se koristi. Chat prozor u kartici preglednika, ekstenzija preglednika s pristupom e-mailu, AI funkcija koja je negdje duboko dodana u postojeću pretplatu: ova vrsta korištenja nastaje izvan svakog procesa nabave i zbog toga se ne pojavljuje na popisu koji IT vodi. Popis nije pogrešan, samo nije potpun, i razlika između tog dvoje je upravo mjesto gdje živi sjenoviti AI (shadow AI).

Jedini način da se sazna što se stvarno događa jest pitati. Ne kao kontrola, ne kao predznak sankcije, nego kao pitanje na koje je moguć iskren odgovor. Onaj koji osjeti da odgovor na "koje alate koristite pored odobrenih sustava" vodi do razgovora s nadređenim, taj odgovor ne daje. Tada organizacija ostaje ovisna o onome što se slučajno primijeti: račun koji malo odskače, kolega koji to nehotice spomene, ili pritužba klijenta čiji su podaci negdje izronili gdje nisu smjeli dospjeti.

Mapiranje bez lova na vještice

Inventar koji počinje s optužbama ne rezultira inventarom, nego šutnjom. Zaposlenici koji znaju da iskren odgovor donosi problem jednostavno će otvoriti prozor u anonimnom (incognito) načinu. Cilj nije kazniti jučerašnje ponašanje; cilj je dobiti aktualnu slika o tome što se sada koristi, tko to koristi i za što, tako da to korištenje može dobiti mjesto u postojećem okviru rizika umjesto da nastavi postojati uz njega.

To vrijedi i za AI koji ne dolazi kroz chat prozor nego kroz dobavljača. Kada dobavljač ugradi AI u proizvod koji je već bio u upotrebi, priroda obrade podataka se mijenja bez da je potpisan novi ugovor. A probni postav koji je dobro funkcionirao rijetko se formalno ugasi: on nastavlja radi, i nakon što probni postav nikada nije isključen, dok nitko više ne zna tko je za njega odgovoran. U sva tri slučaja ne radi se o zloj namjeri, nego o jazu između onoga što je odobreno i onoga što funkcionira. Gdje nadzor u praksi dobiva oblik na takvim mjestima, obrađuje se na stranici o tome što ljudski nadzor znači u praksi; sam sadržaj propisa ostaje negdje drugdje i to se ne mijenja.

Što se nakon toga može sagledati

Čim je jasno koji se AI zapravo koristi, nastaje drugačija vrsta pitanja: koji dio posla koji sada prolazi kroz besplatni chat prozor zapravo pripada zadatku koji AI može strukturirano preuzeti, a koji dio ne. Tu razliku prikazuje radni scan (werkscan) tvrtke FTE TO AI: on po zadatku izračunava koji se dio posla može prepustiti AI-u, tako da korištenje koje je sada skriveno u prozoru preglednika može dobiti mjesto koje odgovara onome što posao stvarno zahtijeva.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.