Klausimas, ar AI taikomoji programa priskiriama aukštos rizikos kategorijai, skamba kaip techninė kvalifikacija. Praktikoje tai yra skirstymas, kuris priklauso nuo kelių konkrečių veiksnių, ir šis skirstymas toliau nustato, kiek priežiūros, dokumentacijos ir įrodomumo iš jūsų tikimasi. Aktualūs teisiniai apibrėžimai ir ribos šiame puslapyje nenurodyti; juos rasite kitur. Čia paaiškiname, nuo ko priklauso skirstymas ir kas pasikeičia jūsų organizacijoje, jei šis skirstymas pasikeičia.
Nėra vieno požymio, kuris taikomąją programą priskirtų aukštos rizikos kategorijai. Tai veiksnių kombinacija, kuri kartu sudaro visą vaizdą: sritis, kurioje taikomoji programa naudojama, mastas, kiek sprendimas turi tiesioginį poveikį asmeniui, ir klausimas, ar yra žmogus, kuris gali faktiškai įvertinti AI patarimą ar rezultatą ir, jei reikia, jį pataisyti prieš tai, kai jis turi poveikį. Taikomoji programa, kuri tik apibendrina tekstą, paprastai patenka kitaip į šį skirstymą nei taikomoji programa, kuri dalyvauja priimant sprendimą dėl konkretaus asmens. Taip pat svarbi kontekstas, kuriame taikomoji programa naudojama: ta pati pagrindinė technologija vienoje srityje gali būti priskirta žemos rizikos kategorijai, o kitoje – aukštos rizikos kategorijai, atsižvelgiant į tai, kas daroma su rezultatu.
Tai viena iš priežasčių, kodėl patvirtintos programinės įrangos sąrašo nepakanka. Skirstymas nepriklauso nuo etiketės ant paketo, o nuo to, kaip ji faktiškai naudojama ir kokią vietą užima sprendimų priėmimo procese.
Kai taikomoji programa įvertinama kaip turinti didesnę riziką, pasikeičia tai, kas tikimasi iš organizacijos: daugiau dokumentacijos apie tai, kaip taikomoji programa veikia ir kaip ji buvo testuota, aiškesnis rezultatų priežiūros mechanizmas ir būdas vėliau parodyti, kas ir į ką atkreipė dėmesį. Tai nėra vienkartinis veiksmas, o nuolatinė pareiga: dokumentacija ir priežiūra turi likti aktualūs tol, kol taikomoji programa naudojama.
Skirstymas taip pat nėra statiškas. Taikomoji programa, kuri šiandien priskiriama ribotos rizikos kategorijai, rytoj gali būti naudojama kitaip — kitoje srityje, su didesniu poveikiu asmenims, arba su mažesniu žmogaus dalyvavimu nei anksčiau. Tas, kas nustato skirstymą tik vieną kartą ir daugiau jo nebeperžiūri, rizikuoja, kad klasifikacija nebeatitiks faktinio naudojimo. Tas pat taikoma taikomosioms programoms, kurios pritaikomos po įsigijimo; kas tiksliai pasikeičia, kai pats pritaikote modelį, priklauso nuo tokio pritaikymo pobūdžio, kaip aprašyta puslapyje apie modelio pritaikymus.
Taikomosios programos klasifikacija yra reikšminga tik tuo atveju, jei ji taikoma tam, kas iš tikrųjų naudojama. Didelė dalis naudojimo organizacijoje vyksta už oficialios inventorizacijos ribų: komandos, kurios naudoja kalbos modelį e. laiško juodraščiui, analitikas, naudojantis išorinį modelį pirmajai ataskaitos versijai, padalinys, kuris įsigijo įrankį jo nepranešęs. Toks naudojimas nekyla iš nenoro. Jis kyla, nes oficialus kelias yra lėtesnis nei poreikis, arba nes niekas nežinojo, kad reikia eiti tuo keliu.
Dėl to IT sąrašas retai parodo pilną vaizdą. Tas, kas norėtų sužinoti, kas iš tikrųjų reikalinga rizikos klasifikacijai, turi patys išsiaiškinti naudojimą — o tam reikia klausti žmonių, kurie atlieka darbą, be baimės, kad už tai bus atsiskaitoma. Tas, kas jau pirmame pokalbyje jaučia, kad sąžiningas atsakymas turės pasekmių, sąžiningai neatsakys. Tai padaro inventorizaciją nenaudingą prieš jai baigiantis.
Ne kiekviena AI taikomoji programa patenka į sistemą, kurioje rizikos klasifikacija yra svarbi. Kai kurios taikomosios programos dėl savo pobūdžio ar tikslo nepatenka į teisės aktų taikymo sritį, ir verta šį skirtumą nustatyti iš anksto, kol dar neskiriamas laikas nereikalingai klasifikacijai; kurios taikomosios programos tai yra, aprašyta puslapyje apie taikomąsias programas, kurios nepatenka į pareigų taikymo sritį. Taip pat vaidmuo, kurį atlieka jūsų organizacija — kaip sistemos teikėjas ar kaip jos naudotojas — turi įtakos tam, kokios pareigos siejamos su rizikos klasifikacija, ir šis vaidmuo ne visada yra aiškus iš anksto; kas tuo atveju lemiamas, skaitykite puslapyje apie skirtumą tarp teikėjo ir naudotojo. Tas pats vaidmuo, be to, gali pasikeisti, kai pritaikote sistemą arba teikiate ją savo vardu, kas plačiau paaiškinta puslapyje apie aplinkybes, kuriomis jūsų vaidmuo pasikeičia.
Skirstymas pagal rizikos lygį beveik visada kelia sekantį klausimą, kas iš to yra skubu ir kas gali būti planuojama. Šis skirtumas nėra vienodas visoms organizacijoms ir priklauso nuo to, kurios taikomosios programos jau naudojamos, o kurios dar kuriamos. Apžvalga, kas paprastai reikalauja pirmiausia dėmesio ir kas gali laukti, yra puslapyje apie kas reikalinga dabar ir ką galima planuoti.
Kai jau aišku, kurios jūsų organizacijos taikomosios programos priskiriamos aukštos rizikos kategorijai, savaime kyla kitas klausimas: kiek pagrindinio darbo faktiškai atlieka AI, ir kiek – žmonės, kurie tikrina ar papildo rezultatą. Šis klausimas nepatenka į šio tyrimo taikymo sritį, tačiau į jį atsako FTE TO AI darbo tyrimas, kuris kiekvienai užduočiai apskaičiuoja, kokią darbo dalį pagrįstai galima perduoti AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.