Obstaja trenutek, ko ima zaposleni težavo in išče rešitev. Besedilo, ki mora biti hitreje pripravljeno, nabor podatkov, ki mora biti pregledneje urejen, stranka, ki želi odgovor še danes. IT-služba traja preveč časa, ali pa je ni. Zato se ustvari račun, namesti razširitev, sklene naročnina na kreditno kartico, ki je nihče ne nadzoruje. Ne iz nevoljnosti. Iz delovne obremenitve.
Tako nastane senčna AI (shadow AI). Ne kot upor proti politiki, temveč kot praktičen odziv na vrzel v politiki. In ne izgine sama od sebe, ker razlog, zaradi katerega je nastala — naloga, ki gre z AI hitreje kot brez — obstaja naprej, dokler politika ne ponudi alternative. Prepoved ne spremeni naloge. Spremeni le, ali veste, da se orodje uporablja.
Pregled odobrene programske opreme pove nekaj o tem, kaj je bilo zaprošeno in dodeljeno. Ne pove nič o tem, kaj se dejansko uporablja. Med tema dvema seznamoma je razlika, ki se povečuje, ker so AI-orodja vse dostopnejša: brez namestitve, brez postopka nabave, samo brskalnik in račun. Brskalniška razširitev z dostopom do vaše e-pošte pade zunaj vsakega nabavnega procesa in zunaj vsakega pregleda, medtem ko je dostop, ki ga ima, prav tako občutljiv kot pri odobrenem sistemu. Kdor pogleda le na IT-seznam, gleda le del resničnosti in ga imenuje celoto.
Edini način, da izveste, kaj se resnično uporablja, je, da vprašate. Ne kot nadzorno vprašanje s sankcijo na koncu, temveč kot popis brez posledic za tiste, ki sodelujejo. Takoj ko zaposleni sumijo, da bo iskren odgovor pripeljal do pogovora z nadrejenim, informacija ne izgine — gre le v ozadje. Isto orodje ostane v uporabi, le manj vidno. Organizacija, ki želi poznati obseg senčne AI, mora torej najprej urediti pogoj, pod katerim bo dobila odgovor. To ni vprašanje izgube zaupanja, temveč vprašanje vrstnega reda: najprej vpogled, šele nato politika.
Ko je popis enkrat pridobljen, nastane nekaj uporabnega: seznam orodij po vlogi in stopnji tveganja, ne po dobro ali napačno. Orodje, ki preoblikuje besedilo za notranjo uporabo, prinaša drugačno tveganje kot orodje, ki obdeluje podatke strank ali pripravlja odločitve. Nekatera od teh orodij so nastala iz individualne uporabe, ki je zrasla v standard oddelka — glejte oddelek z lastno naročnino — in si prej zaslužijo formalizacijo kot prepoved. Druga so bila enkratno vzpostavljena za projekt, ki je zaključen, a dostop je še odprt; to je vzorec, opisan pri poskusni postavitvi, ki je niso nikoli ugasnili. Klasifikacija določa, kaj je potrebno: včasih nič, včasih prilagoditev, včasih prevzem v obstoječo strukturo upravljanja.
Cilj tega pristopa ni izpostaviti vsakega, ki je brez dovoljenja zagnal orodje. Cilj je vedeti, kaj deluje, kdo to uporablja in kakšno tveganje je s tem povezano — tako da lahko vodstvo, CIO ali General Counsel na to vprašanje odgovori, kadar je zastavljeno, interno ali eksterno. To zahteva ustaljen način popisovanja, ki se ne konča po eni izvedbi, saj se nenehno dodajajo nova orodja. Kako se ta popis v praksi vzpostavi, vključno z vprašanjem, kdo ga izvaja in kako pogosto, je opisano v kako vzpostavite popis AI.
Sama struktura upravljanja (governance) — katera pravila veljajo za katero stopnjo tveganja, kateri roki in obveznosti so s tem povezani — je ločena tema z lastno aktualno vsebino, ki se tu ne ponavlja. Kar na tej strani šteje, je mehanizem: pridobiti vpogled, ne da bi zaprli pretok informacij, in ta vpogled prevesti v klasifikacijo, ki se ujema s tem, kar je organizacija že vzpostavila za obvladovanje tveganj.
Popis, ki razkrije senčno AI, tega pogosto ne razkrije le pri posameznih orodjih. Razkrije tudi, da je ponudnik dodal AI v sistem, ki je bil že v uporabi, brez da bi o tem potekal ločen pogovor — vzorec, ki je v ozadju ponudnika, ki je AI vgradil v svoj izdelek — in da se občutljive poslovne informacije včasih preprosto prilepijo v javno klepetalno okno, kot je opisano pri poslovnih podatkih v brezplačnem klepetalnem oknu. Vse te oblike izvirajo iz istega vzroka: naloge, pri kateri AI deluje hitreje kot obstoječi proces.
Ta ugotovitev logično pripelje do drugega vprašanja, ločenega od odobritve in tveganja: kateri del samega dela je primeren za to, da ga prevzame AI. Delovni scan podjetja FTE TO AI to izračuna za posamezno nalogo, na podlagi tega, kaj delo dejansko vključuje, in pokaže, kje lahko avtomatizacija prevzame realen del časa — kot izhodišče za pogovor o tem, kaj je s tem mogoče načrtovati, ne kot nadomestilo za vprašanje upravljanja (governance), ki je osrednja tema te strani.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.