re-ai-gov Į laukiančiųjų sąrašą

Kennisbank

Bandomoji sistema, kurios niekas nebedrįsta išjungti

Kaip bandymas tampa struktūra

Komanda nori dirbti greičiau ir įjungia DI įrankį, dažniausiai norėdama patikrinti kažką konkretaus: santrauką, pirminį juodraštį, klasifikaciją. Nėra tvirtinimo proceso, nes tai „vis dar tik bandymas“. Bandymas veikia, arba veikia pakankamai gerai, ir įsilieja į kasdienį procesą taip, kad niekada nebuvo priimtas sprendimas jį palikti. Nebuvo momento, kai kas nors sąmoningai nusprendė: tai įtraukiame į savo DI inventorių, tam yra savininkas, tai patenka į tokį rizikos lygį. Buvo tik pradžios momentas, ir šis momentas įsirašo į darbo tvarką, kurios niekas daugiau neperžiūrėjo.

Kodėl išjungti sunkiau nei tęsti

Bandomosios sistemos sustabdymas reikalauja sprendimo. Tęsimas nereikalauja nieko. Kol niekas neregistruoja incidento ir joks išorinis subjektas neprašo įrodymų apie kontrolę, nėra priežasties sugrįžti prie to, kas jau seniai tapo tiesiog darbu. Žmonėms, kurie naudoja įrankį, nėra naudos to iškelti į dienos šviesą: jis veikia, taupo laiką, o pranešimas atrodo kaip rizika, kad jis bus atimtas. Taip laikinas sprendimas išlieka struktūrinis, ne todėl, kad niekas nežino, o todėl, kad niekas neuždavė klausimo, kuris nulemtų išjungimą.

Kodėl IT sąrašas šios problemos neišsprendžia

Logiška manyti, kad patvirtintos programinės įrangos sąrašas šią situaciją padarytų matomą. Šis sąrašas parodo tai, kas buvo įsigyta, ne tai, kas yra naudojama. Bandomoji sistema dažnai veikia už šio kanalo ribų: nemokama paskyra, naršyklės papildinys, atskira prenumerata, priskirta komandos kortelei. Toks pat modelis pasireiškia ir su naršyklės plėtiniu, turinčiu prieigą prie jūsų pašto, su padaliniu, turinčiu savo atskirą prenumeratą už centrinių pirkimų ribų, ir su verslo duomenimis, kurie įklijuojami į nemokamą pokalbių langą, už kurio nestovi sutartis su duomenų tvarkymo sąlygomis. Nė viena iš šių situacijų nepatenka į IT sąrašą, nes nė viena jų niekada nebuvo pateikta kaip projektas.

Kodėl klausimai be atsakomybės taikymo yra būtini

Vienintelis būdas sužinoti, kas iš tikrųjų veikia, yra paklausti. Ne kaip patikrinimas po fakto, o kaip atviras pasiūlymas: ką naudojate, kam, ir nuo kada. Kas užduoda šį klausimą, kai fone tvyro sankcijų grėsmė, nesulaukia atsakymo arba sulaukia nepilno atsakymo. Darbuotojai, naudojantys įrankį, kurio niekas nepatvirtino, sąžiningumu turi ką pralošti ir nieko neįgyti. Tai tiksliai ta pati įtampa, kuri nagrinėjama skiltyje darbuotojai, naudojantys įrankį, kurio niekas nepatvirtino: be kvietimo, į kurį saugu atsakyti, bandomoji sistema lieka pogrindyje, ji neišnyksta, ji tiesiog tampa tylesnė.

Ką organizacija gali padaryti be raganų medžioklės

Inventorius, kuris nesukelia pasekmių pranešėjui, yra pirmasis žingsnis, ne pabaiga. Po matomumo sukūrimo seka klasifikacija: kas tai yra, kokį vaidmenį tai atlieka procese, ir kokį rizikos lygį tai atitinka. Santraukų įrankiui vidiniams užrašams reikia kitokio režimo nei įrankiui, kuris dalyvauja priimant sprendimus dėl kliento priėmimo ar personalo vertinimo. Šia klasifikacija reikia derinti su jau esama rizikos struktūra, o ne sukurti naują sistemą greta jos. Antrinis, neformalus procesas, ignoruojamas greta esamo proceso, yra tiksliai tai, kodėl antrinis procesas greta esamo yra ignoruojamas yra atpažįstamas modelis: žmonės renkasi kelią su mažesniu pasipriešinimu, ir šis kelias tampa matomas tik tada, kai kas nors apie jį paklausia.

Toliau kyla klausimas, kas dar tuo domisi. Bandomoji sistema, kuri buvo paleista į kasdienį darbą, dažniausiai neturi savininko, kuris vertintų rezultatus prieš jų naudojimą. Čia tampa aktualu, ką iš tikrųjų reiškia žmogaus priežiūra: ne kaip abstraktus principas, o kaip konkretus klausimas, kas perskaito rezultatą prieš tai, kai jis paveikia klientą, bylą ar sprendimą.

Aiškumas be raganų medžioklės

Vadovas, kuriam apie tai užduodamas klausimas — priežiūros institucijos, auditoriaus, stebėtojų tarybos — turi dvi galimybes: sakyti, kad apžvalga yra pilna, arba sakyti, kad egzistuoja procesas, skirtas ją padaryti ir palaikyti pilną. Antrasis variantas yra sąžiningesnis ir, ilgainiui, stipresnis, nes organizacija, kuri aktyviai inventorizuoja, turi kažką aiškiai pademonstruojamo, net kai inventorius dar nėra baigtas. Esmė ne ta, kad neautorizuota bandomoji sistema niekada daugiau neatsiras. Esmė ta, kad egzistuoja mechanizmas, kuris ją suranda anksčiau, nei tai už jus padaro incidentas.

Kitas klausimas: ką DI iš tikrųjų galėtų perimti

Kai tampa matoma, kokia DI atsirado neplanuotai, dažnai kyla kitas klausimas: jei ši komanda jau tai darė, be to, kad kas nors tai organizavo, kas atsitiktų, jei mes tai organizuotume tikrai? Tai kitas klausimas nei valdysena, ir jis siejasi su FTE TO AI darbo skaitiklio (werkscan) funkcija, kuri pagal užduotį apskaičiuoja, kokią darbo dalį pagrįstai galima perduoti DI. Kur šis puslapis aprašo, kaip įgyti kontrolę to, kas jau veikia, ta skaitiklio funkcija aprašo, kas dar gali būti sukurta, taikant tą pačią blaivią žvilgsnį į užduotis ir riziką.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.