Kennisbank

Tööriist, mida keegi ei kiitnud heaks, kuid mida kõik kasutavad

Töötaja kleebib tükk teksti tasuta vestlusaknasse, kuna see töötab kiiremini kui sisemine süsteem. Meeskond ostab tellimuse AI-tööriistale, kuna ametliku taotluse menetlemine võtaks nädalaid. Tarnija lisab AI-funktsionaalsuse tarkvarasse, mida on juba aastaid kasutatud, ilma et sellest oleks kunagi räägitud. Keegi neist inimestest ei püüa midagi varjata. Nad püüavad oma tööd teha.

See on varjutehisintellekti tuum: see ei tekita mitte tahtmatusest, vaid lõhest selle vahel, mida inimesed vajavad, ja selle vahel, mida ametlik protsess pakub. Kuni see lõhe eksisteerib, tekib varjuvõi edasi, ükskõik kui palju eeskirju kirjutatakse.

Miks IT-nimekiri ei vasta tegelikkusele

Enamikul organisatsioonidel on ülevaade heakskiidetud tarkvarast. See ülevaade on lähtepunkt, mitte tegelikkuse peegeldus. See, mida inimesed tegelikult kasutavad, on sellest peaaegu alati ees: küsimus, kuidas vältida ettevõtte andmete sattumist tasuta vestlusaknasse illustreerib, kui lihtsalt tööriist võib jääda kõigist vaateväljast välja. Sama kehtib osakonna kohta, mis omal algatusel sõlmib tellimuse, kuna tavapärane tee tundub liiga aeglane, või brauserlaienduse kohta, mis saab juurdepääsu e-postile ilma, et selleks oleks eraldi heakskiitu. Ükski neist olukordadest ei ole IT-nimekirjas. Kuid need on olemas.

Miks see ei kao iseenesest

On kalduvus käsitleda varjuvõi jõustamisprobleemina: keelata, blokeerida, karistada. See toimib vastupidiselt. Kes teab, et ausa vastuse tagajärjeks on probleem, ei anna enam ausat vastust. Tööriist ei kao, see muutub veel nähtamatumaks. Täpselt vastupidine sellele, mida organisatsioon vajab.

Teine põhjus, miks see ei lahene iseenesest: olemasolev valitsemine on tihti loodud tarkvarale, mida ostetakse ja installitakse, mitte teenusele, mida keegi avab brauseris ja jätab järgmisel päeval kasutamata. Katseseadistus, mis kunagi oli mõeldud ajutiseks näitab, kuidas väike asi, ilma selge hindamishetketa, võib jätkuda aastaid, kusjuures keegi ei tunne end selle omanikuna. Ilma protsessita, mis sellist kasutust struktuurselt tähele panekski, jääb see radarist väljas, kui head kavatsused seal ka olid.

Mis siiski toimib: küsimine ilma karistuseta

Üsna ainus viis teada saada, mis toimub, on küsimine. Mitte kontrollina, vaid inventuurina. Töötajad, kes teavad, et aus vastus ei toob kaasa vestlust personaliosakonnaga, annavad selle vastuse ka tegelikult. See eeldab tooni ja protsessi, mis eelnevalt selgelt näitavad: see puudutab ülevaate saamist, mitte kellegi karistamist.

Sellega käib kaasas ka tähelepanu sellele, kuidas uued protsessid pannakse olemasolevate kõrvale. Teine protsess, mis pannakse olemasoleva kõrvale, ilma et esimest kohandataks või tühistataks, jäetakse sageli tähelepanuta, kuna inimesed jäävad oma harjumuste juurde. Inventuur, mis lisandub tööle täiendava kohustusena, saab sama kohtlemise.

Inventuurist klassifitseerimiseni

Kui on selge, mida tegelikult kasutatakse, tekib järgmine küsimus: mida see tööriist teeb ja mis riskiga see kaasneb? Tööriist, mis teeb sisemiseks kasutamiseks teksti kokkuvõtte, vajab teistsugust käsitlust kui tööriist, mis osaleb otsustusprotsessis kliendi vastuvõtu või personali hindamise osas. See klassifitseerimine rolli ja riskitaseme järgi muudab inventuuri kasutatavaks: aluseks, millel juhatus, CIO või General Counsel saab selgitada, mis toimub ja miks see on põhjendatav.

See valitsemiskiht sobitub organisatsiooni juba olemasoleva riskistruktuuriga, mitte uue kõrvalise raamistikuga. Reeglite sisu, millele AI-rakendused peavad vastama, muutub ja hoitakse ajakohasena mujal; siin on oluline see, et organisatsioonil on toimiv viis teada, mis töötab, kes selle eest vastutab ja kuidas see on tõendatav juhatusele või järelevalveasutusele.

Järgmine küsimus: mis võiks üle minna

Kui on selge, milline AI on tegelikult kasutuses ja millise riskiga see kaasneb, tekib loomulikult teine küsimus: millist osa töö sisust võiks AI-rakendus tegelikult üle võtta ja millist osa mitte. See on teistsugune küsimus kui heakskiitmine ja järelevalve, kuid see tuleneb sellest loogiliselt. FTE TO AI töö-skanner arvutab ülesande kaupa välja, kui suure osa tööst saab AI üle võtta, lähtudes sellest, mida amet tegelikult hõlmab. Kui Responsible AI Scan toob korra sellesse, mis juba töötab, näitab töö-skanner, mida on veel võita.