re-ai-gov Į laukiančiųjų sąrašą

Kennisbank

Įrankis, kurio niekas nepatvirtino, bet kuriuo naudojasi visi

Darbuotojas įklijuoja teksto gabalą į nemokamą pokalbių langą, nes tai veikia greičiau nei vidinė sistema. Komanda įsigyja prenumeratą DI įrankiui, nes prašymo dėl kažko formalaus teikimas užimtų savaites. Tiekėjas prideda DI funkcionalumą prie programinės įrangos, kuri naudojama jau metų metus, be jokio pokalbio šia tema. Nė vienas iš šių žmonių nesiekia kažko nuslėpti. Jie tiesiog bando atlikti savo darbą.

Tai ir yra šešėlinio DI esmė: jis atsiranda ne dėl nenoro, o dėl atotrūkio tarp to, ko žmonėms reikia, ir to, ką suteikia formalus procesas. Kol šis atotrūkis egzistuoja, šešėlinis DI toliau atsiras, nepaisant to, kiek politikos bus parašyta.

Kodėl IT sąrašas neatspindi tikrovės

Daugumoje organizacijų yra patvirtintos programinės įrangos sąrašas. Šis sąrašas yra pradžios taškas, o ne tikrovės atspindys. Tai, kuo žmonės iš tikrųjų naudojasi, praktiškai visada aplenkia šį sąrašą: klausimas, kaip išvengti įmonės duomenų atsidūrimo nemokamame pokalbių lange parodo, kaip lengvai įrankis gali atsidurti visiškai už matomumo ribų. Tas pats galioja padaliniui, kuris savo iniciatyva įsigyja prenumeratą, nes standartinis kelias jaučiasi pernelyg lėtas, arba naršyklės plėtiniui, kuris gauna prieigą prie pašto be atskiro tam skirto patvirtinimo. Nė viena iš šių situacijų nėra IT sąraše. Tačiau jos egzistuoja.

Kodėl tai neišnyksta savaime

Egzistuoja polinkis vertinti šešėlinį DI kaip vykdymo užtikrinimo problemą: draustiblokuoti, taikyti sankcijas. Tai veikia atvirkščiai. Kas žino, kad sąžiningas atsakymas sukels problemų, sąžiningo atsakymo daugiau nebeduos. Įrankis neišnyksta, jis tampa nematomesnis. Tiksliai priešingai nei organizacijai reikia.

Antra priežastis, kodėl tai neišsprendžiama savaime: esama valdymo tvarka dažnai sukurta programinei įrangai, kurią pirkite ir įdiegiate, o ne paslaugai, kurią kažkas atidaro naršyklėje ir rytoj vėl palieka. Bandomoji sistema, kuri kadaise buvo skirta laikinam naudojimui parodo, kaip kažkas mažo, be aiškaus vertinimo momento, gali tęstis metų metus, nė vienam nesijaučiant už tai atsakingu. Be proceso, kuris tokį naudojimą struktūriškai pastebi, jis lieka nepastebėtas, kokie geri ketinimai ir bebūtų.

Kas veikia: klausti be baudimo

Vienintelis būdas sužinoti, kas vyksta, yra paklausti. Ne kaip kontrolė, o kaip inventorizacija. Darbuotojai, kurie žino, kad sąžiningas atsakymas nesukels pokalbio su personalo skyriumi, tokį atsakymą ir duoda. Tam reikalingas toks tonas ir procesas, kuris iš anksto aiškiai parodo: tai skirta aiškumui gauti, o ne kažkam nukentėti.

Su tuo susijęs ir dėmesys tam, kaip nauji procesai dedami greta esamų. Antras procesas, dedamas greta esamo, nepakeičiant ar neatšaukiant pirmojo, dažnai ignoruojamas, tiesiog nes žmonės laikosi savo įpročio. Inventorizacija, kuri tampa papildoma pareiga virš darbo, susilaukia tokio pat likimo.

Nuo inventorizacijos iki klasifikavimo

Kai tampa aišku, kas iš tikrųjų naudojama, kyla kitas klausimas: ką tas įrankis daro, ir koks rizikos lygis su tuo susijęs? Įrankis, apibendrinantis tekstą vidiniam naudojimui, reikalauja kitokio požiūrio nei įrankis, dalyvaujantis priimant sprendimus dėl kliento priėmimo ar personalo vertinimo. Šis klasifikavimas pagal vaidmenį ir rizikos lygį paverčia inventorizaciją kažkuo naudingu: pagrindu, kuriuo remiantis valdyba, CIO ar teisės departamento vadovas gali paaiškinti, kas vyksta ir kodėl tai yra pagrindžiama.

Šis valdymo sluoksnis dera su rizikos struktūra, kurią organizacija jau turi, o ne su nauju, atskiru pagrindu. Taisyklių, kurių turi atitikti DI taikymai, turinys kinta ir yra atnaujinamas kitur; kas šiuo atveju svarbu, yra tai, kad organizacija turi veikiantį būdą žinoti, kas naudojama, kas už tai atsakingas, ir kaip tai galima įrodyti valdybai ar priežiūros institucijai.

Kitas klausimas: kas gali būti perimta

Kai tampa aišku, kokia DI faktiškai naudojama ir su kokia rizika tai susiję, savaime kyla kitas klausimas: kurią darbo dalį DI taikymas iš tikrųjų galėtų perimti, o kurią - ne. Tai kitas klausimas nei patvirtinimo ir priežiūros, tačiau jis logiškai iš to seka. FTE TO AI darbo skenavimas apskaičiuoja pagal kiekvieną užduotį, kurią darbo dalį galima perduoti DI, remiantis tuo, kas iš tikrųjų sudaro pareigų turinį. Kur Responsible AI Scan sutvarko tai, kas jau veikia, darbo skenavimas parodo, kas dar galima laimėti.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.