re-ai-gov Į laukiančiųjų sąrašą

Kennisbank

Ką iš tikrųjų fiksuoja AI priežiūros sprendimų sąrašas

Priežiūros sprendimų sąrašas nėra nauja forma ir ne nauji susitikimai. Tai fiksuota vieta, kurioje užrašoma, kuris AI sprendimas buvo įvertintas, kieno, remiantis kokiu rizikos vertinimu, ir su kokiu sprendimu. Patvirtinta, atmesta, su sąlygomis, arba laikinai leista, kol vyksta tolesnis tyrimas. Be šio sąrašo sprendimas egzistuoja tik tų žmonių atmintyje, kurie dalyvavo, ir dingsta, kai kas nors pakeičia pareigas arba kai pokalbis nebuvo užprotokoluotas.

Kas turi jame būti

Sąraše kiekvienai taikomajai programai turi būti trumpas užduoties aprašymas, klasifikacija pagal vaidmenį ir rizikos lygį, procesų savininko vardas, vertinimo data, priimtas sprendimas ir to sprendimo pagrindas. Ne techninė specifikacija, ne tiekėjo dokumentacija: tai priklauso pačios taikomosios programos dokumentacijai, o ne sprendimų sąrašui. Sąrašas yra apžvalga vienu lygiu aukščiau — kas ką nusprendė ir kada tas sprendimas buvo paskutinį kartą patvirtintas iš naujo. Taikomoji programa, kuri prieš metus buvo patvirtinta ribotos rizikos užduočiai, jau gali būti naudojama kažkam kitam. Be periodinio patvirtinimo iš naujo, senas sprendimas toliau taikomas situacijai, kuri jau nebeegzistuoja.

Kodėl antrasis procesas ignoruojamas

Priežastis, kodėl atskiri AI registrai dažnai lieka tušti, nėra nenoras, o eiliškumas. Kiekviena organizacija jau turi vietą, kurioje aptariama ir fiksuojama rizika: rizikos komitetą, audito komitetą, direkcijos posėdį su nuolatiniu darbotvarkės punktu apie operacinę riziką. Kas papildomai įveda atskirą AI žurnalą, prašo žmonių tvarkyti antrą apskaitą tam, kas iš esmės priklauso pirmajai. Tas antrasis procesas struktūriškai pralaimi kasdienei rutinai. Priežiūros sprendimų sąrašas veikia tik tuomet, kai jis įtrauktas į tai, kas jau egzistuoja — kaip nuolatinė esamo susitikimo dalis, su fiksuota vieta darbotvarkėje, o ne kaip naujas papildomas įpareigojimas.

Tai taip pat reiškia, kad sąraše naudojama ta pati skalė ir kalba kaip ir likusioje rizikos struktūroje. Taikomoji programa su aukštu rizikos lygiu sulaukia tokio pat dėmesio kaip ir kita byla su aukštu rizikos lygiu: fiksuotas ataskaitų teikimo dažnumas, fiksuotas savininkas, fiksuota eskalavimo linija. Kaip ši sąsaja atrodo praktikoje, priklauso nuo organizacijos esamo valdymo modelio ir aprašyta puslapyje apie prisijungimą prie esamos rizikos struktūros.

Kas įvyksta, kai sprendimas įstringa

Sprendimų sąrašas yra nenaudingas, jei nėra kelio, kas įvyksta, kai kas nors su juo nesutinka, arba kai taikomoji programa pasikeičia, o niekas to nepraneša. Šis kelias neturi būti paties sąrašo dalis, tačiau turi su juo sietis: kas gali ginčyti atmetimą, kas turi pratęsti laikiną leidimą, ir kam byla atitenka, jei procesų savininkas ir rizikos funkcija nesutaria. Kaip šios linijos veikia, kad kiekvienas klausimas neatsidurtų organizacijos viršuje, aprašyta puslapyje apie veikiančius eskalavimo kelius.

Nuo sprendimo prie matomumo

Sprendimų sąrašas yra atmintis; be to, valdybai reikia santraukos, kurios nereikėtų iš naujo sudarinėti kas ketvirtį iš atskirų protokolų. Kas turi būti tokioje santraukoje — o kas ne, nes tai jau yra sprendimų sąraše — aprašyta puslapyje apie vieno puslapio valdybos ataskaitą. Be šio žingsnio sprendimų sąrašas išlieka dokumentu, kurį skaito tik procesų savininkai, o valdyba toliau teisiškai atsako už tai, kas nusprendžiama.

Kodėl fiksavimas nėra tas pats, kas stebėjimas

Sprendimo fiksavimas nėra tas pats, kas žinojimas, ar sprendimo laikomasi. Taikomoji programa, kuri buvo atmesta, gali toliau būti naudojama, jei niekas netikrina, ar atmetimas buvo įgyvendintas. Todėl sprendimų sąrašas be tęstinio veiksmo duoda mažai naudos: jis dokumentuoja ketinimus, o ne elgesį. Kas reikalinga, norint pamatyti, ar sprendimas iš tikrųjų laikosi, ir kokie signalai su tuo susiję, aprašyta puslapyje apie stebėseną, kuri duoda naudą.

Klausimas, kuris sąrašą padaro pilnai išsamų

Sprendimų sąraše gali būti tik tai, kas buvo pranešta. Kas priklauso vien nuo pranešimų per IT skyrių, mato tik dalį to, kas iš tikrųjų yra naudojama: didžioji dalis AI naudojimo organizacijoje kyla už formalių pirkimo procesų, komandose, kurios išbando priemonę, nes ji veikia. Ar tos taikomosios programos kada nors atsiduria sprendimų sąraše, priklauso nuo to, ar darbuotojai drįsta pasakyti, ką jie naudoja — o tai vyksta tik tuomet, jei klausimai apie tai nesijaučia kaip pirmtakas sankcijai.

Pirmasis klausimas, kuris tam padeda, nėra „kuris AI patvirtintas“, o „kokia dalis šio darbo iš tikrųjų jau yra, arba galėtų būti, atliekama AI“. Tai kitoks pradinis taškas nei sprendimų sąrašas, ir išsamesnis pradinis taškas: FTE TO AI darbo skanavimas (werkscan) kiekvienai užduočiai apskaičiuoja, kokią darbo dalį gali perimti AI, ir tokiu būdu sukuria pagrindą, kuris nepriklauso nuo to, kas atsitiktinai buvo praneštas. Iš šio rezultato tampa matoma, kokios taikomosios programos jau iš tikrųjų veikia, dar prieš tai, kai sprendimų sąrašas apie jas sužino.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.