re-ai-gov Į laukiančiųjų sąrašą

Kennisbank

Skubu ar planuojama: nuo ko priklauso skirstymas

Klausimas už klausimo

AI naudojimo inventorizacija dažniausiai suteikia sąrašą, kuris yra pernelyg ilgas, kad būtų galima jį apdoroti vienu ėjimu. Klausimas, kuris tada kyla, nėra „ką turime daryti“, o „ką turime daryti pirmiausia“. Tai skirstymo klausimas, ir atsakymas nepriklauso nuo to, kiek yra sistemų, o nuo to, ką tos sistemos daro ir kam.

Nuo ko priklauso skubumas

Pirmasis faktorius yra pačios taikomosios programos rizikos lygis. Sistema, kuri paruošia sprendimus apie žmones — priėmimą į darbą, kredito teikimą, priežiūros ar išmokų skyrimą — reikalauja kitokio elgesio nei įrankis, kuris perrašo tekstą vidiniam naudojimui. Tai, ką aukštas rizikos lygis reiškia jūsų organizacijai, skiriasi pagal taikomąją programą, ir šie skirtumai nustato, kurios sistemos turi būti nagrinėjamos pirmiausia.

Antrasis faktorius yra organizacijos vaidmuo tos sistemos atžvilgiu. Tas, kas nuperka modelį ir naudoja jį nepakeistą, susiduria su kitokiais įsipareigojimais nei tas, kas leidžia apmokyti modelį savo duomenimis arba nuolat pritaiko rezultatą. Tai, ar esate tiekėjas ar naudotojas AI taikomosios programos, nustato ne tik kokie įsipareigojimai taikomi, bet ir kiek laiko reikia tiems įsipareigojimams įvykdyti — tiekėjas paprastai turi daugiau pasiruošti nei naudotojas.

Trečiasis faktorius yra tai, ar sistema jau naudojama, ar dar tik įsigyjama. Rizika, kuri jau veikia — su tikrais naudotojais, tikrais sprendimais, tikrais duomenimis — reikalauja kitokios eiliškumo tvarkos nei rizika, kuri dar yra sutarties etape, kai susitarimai gali būti užfiksuoti prieš sistemai pradedant veikti.

Kas pasikeičia, kai situacija pasikeičia

Šis skirstymas nėra vienkartinis momentinis vaizdas. Sistema, kuri šiandien yra žemos rizikos, po pakeitimo tokia gali nebebūti. Tai, ką reiškia, kai patys pritaikote modelį — tikslus derinimas, naujas duomenų rinkinys, kitokia to pačio pagrindinio technologijos taikymo forma — priklauso nuo to, kas tiksliai pasikeičia, tačiau anksčiau padarytas skirstymas dėl to automatiškai nebeišlieka galiojantis.

Tas pats taikoma vaidmens pasikeitimui. Organizacija, kuri perima parengtą modelį ir jį po to reikšmingai pritaiko, dėl to gali pereiti iš naudotojo į tiekėją. Kada tas vaidmuo pasikeičia ne visada yra paties pritaikymo momentas, o momentas, kuriuo tas pritaikymas pakeičia sistemos charakterį. Tai taip pat yra skirstymo klausimas, ir jis taip pat reikalauja pakartotinio įvertinimo, kai situacija pasikeičia — ne vienkartinio patikrinimo, kuris po to lieka galioti.

Ir sistema, kuri dar yra įsigyjama, pereina iš planuojamos į skubią tuo momentu, kai ji pradeda veikti. Skirstymas, kuris taikomas sutarties etapui, netaikomas naudojimo etapui.

Ką tai reiškia eiliškumui

Praktinė išvada yra ta, kad inventorizacija ne vieną kartą suteikia prioritetų sąrašą, o struktūrą, kurią reikia pereiti pakartotinai. Sistemos su aukštu rizikos lygiu ir aktyviu tiekėjo vaidmeniu reikalauja dėmesio dabar. Sistemos su žemu rizikos lygiu, kurios dar nenaudojamos, gali būti suplanuotos — tačiau planavimas turi apimti momentą, kuriuo bus pakartotinai peržiūrima, nes pritaikymai, vaidmens pasikeitimas ar naudojimo pradžia gali pakeisti skirstymą į priešingą.

Tam reikalinga nuolatinė vieta, kurioje fiksuojami sprendimai dėl to skirstymo: kuri sistema pažymėta kaip skubi, kokiu pagrindu, ir kada tas įvertinimas buvo atliktas paskutinį kartą. Priežiūros sprendimų sąrašas yra forma, kuria tas skirstymas tampa įrodomas — ne kaip papildomas administravimas, o kaip vienintelis įrodymas, kad skirstymas nėra atsitiktinis, o pakartojamo proceso rezultatas.

Pati teisinė reguliavimo sistema — kokie terminai taikomi, kokie įsipareigojimai pagal rizikos klasę siejami su kokia data — aprašyta kitur. Šis puslapis aprašo mechanizmą, kuriuo skiriate skubu nuo planuojamo; aktualaus teisės akto teksto ir terminų čia nerasite.

Nuo skirstymo prie turinio

Skirstymas į skubu ir planuojama pasako kažką apie dėmesio eiliškumą, ne apie paties darbo turinį. Kai tik tampa aišku, kuri AI taikomoji programa gauna pirmenybę, klausimas, ką ta taikomoji programa tiksliai daro su darbu, kuris yra aplink ją, lieka atviras: kuri užduoties dalis vyksta automatiškai, kuri dalis reikalauja kontrolės, ir kuri dalis lieka žmogui. Į tą klausimą atsako FTE TO AI darbo skanavimas, kuris pagal kiekvieną užduotį apskaičiuoja, kurią darbo dalį galima perduoti AI — tai papildymas prie čia atlikto skirstymo, sutelktas į paties darbo turinį.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.