Daugelis organizacijų mano, kad priskyrimas teikėjui ar naudotojui yra vienkartinis: sistema kažkur įsigyjama, ir tuo organizacijos vaidmuo yra nustatytas. Praktikoje tai yra sudėtingiau. Vaidmuo, kurį turite AI sistemos atžvilgiu, priklauso nuo to, ką su ja darote, o ne nuo to, iš kur sistema atkeliavo. Ta pati organizacija vienos sistemos atžvilgiu gali būti naudotojas, o kitos — niekam to taip neįvardijus — teikėjas.
Pagrindinis klausimas nėra tas, kas sistemą sukūrė, o tas, kas ją pateikia rinkai arba naudoja savo vardu. Organizacija, kuri įsigyja gatavą AI sistemą ir naudoja ją savo procesui, dažniausiai yra naudotojas. Kai ta pati organizacija sistemą pritaiko, toliau kuria, pakeičia žymą arba pateikia kitiems savo vardu, šis vaizdas pasikeičia. Svarbu ir tai, kokia yra kontrolė modelio atžvilgiu: kas nustato, kokiais duomenimis modelis apmokomas, kas nustato parametrus, kas prisiima atsakomybę už sistemos veikimą naudojant produkcijoje. Į šiuos klausimus neatsakoma vieną kartą įsigijimo metu — jie išlieka aktualūs tol, kol sistema naudojama.
Organizacijos vaidmuo taigi nėra pastovi žymė, o faktinio naudojimo pasekmė. Tai reiškia, kad vidiniai pokyčiai — nauja esamos sistemos taikymo forma, savo IT skyriaus atliktas pritaikymas, AI funkcijos perdavimas klientui ar dukterinei organizacijai — gali pakeisti priskyrimą, net jei tam nebuvo priimtas formalus sprendimas. Kas tai reiškia praktikoje ir kokiu momentu vaidmuo iš tikrųjų pasikeičia, plačiau aptariama puslapyje apie momentą, kada jūsų vaidmuo AI sistemos atžvilgiu pasikeičia. Svarbu tai, kad šis pokytis dažnai pastebimas ne iš karto, kadangi jis vyksta skyriaus lygmenyje, toli nuo vietos, kur nustatoma politika.
Klausimas, ar esate teikėjas, ar naudotojas, nėra atsietas. Jis susijęs su klausimu, kokį rizikos lygį turi taikymas, ir su klausimu, ar taikymas patenka į reguliavimo aprėptį. Sistema, naudojama kaip naudotojo taikymas su nedideliu poveikiu, gali reikalauti kitokio elgesio nei tuo atveju, kai ta pati organizacija sistemą toliau pritaiko ir dėl to priartėja prie teikėjo vaidmens. Kas konkrečiai reiškia aukštesnis rizikos lygis organizacijai, aprašyta puslapyje apie tai, ką aukštas rizikos lygis reiškia jūsų organizacijai. Taip pat ne visi taikymai patenka į tų pačių reikalavimų aprėptį; kurie taikymai į ją nepatenka ir nuo ko tai priklauso, aprašyta puslapyje apie tai, kurie taikymai nepatenka į aprėptį.
Priežastis, kodėl šis priskyrimas daugeliui organizacijų išlieka neaiškus, nėra taisyklių trūkumas. Aktualus tekstas ir tikslūs kriterijai yra nustatyti kitur ir dėl šio teksto nesikeičia. Problema yra prieš tai: norint žinoti, kuris vaidmuo taikomas, pirmiausia turi būti žinoma, kokios AI sistemos faktiškai naudojamos, kas jas naudoja ir kokiu mastu jos yra pritaikytos. Tokios inventorizacijos daugumoje organizacijų nėra. Oficialus IT patvirtintų priemonių sąrašas retai atspindi, kas iš tikrųjų naudojama. Skyriai pradeda naudoti priemones, pritaiko modelius savo duomenimis arba integruoja AI funkciją į vidinį procesą, ir tai niekur centralizuotai nefiksuojama. Kas nori žinoti, ar organizacija yra teikėjas, ar naudotojas, pirmiausia turi žinoti, kas veikia — o tai klausimas, į kurį neatsakoma politikos dokumentu, bet inventorizacija, kuri drįsta paklausti žmonių, ką jie naudoja, be jokių pasekmių už tai.
Kadangi organizacijos vaidmuo gali pasikeisti be formalaus sprendimo, valdybai ir prižiūrinčioms institucijoms yra svarbu, kad ataskaitos šį pokytį atspindėtų. Valdymo metodas, kuris remiasi statišku vaidmenų pasiskirstymu, praleidžia momentą, kai vidinis pritaikymas faktiškai pastato organizaciją į kitą padėtį. Kaip AI politiką galima parengti taip, kad ji tokius pokyčius parodytų, o ne nuslėptų, ir kad ją iš tikrųjų perskaitytų tas, kuris už tai atsako, aptariama puslapyje apie AI politiką, kuri atitinka praktiką, o ne tik guli spintoje.
Klausimas, ar jūsų organizacija yra teikėjas, ar naudotojas, susijęs su atsakomybe ir įsipareigojimais. Jis dar nieko nepasako apie tai, ką AI reiškia patiems darbams: kokias užduotis ji perima, pakeičia ar palaiko. Šis klausimas yra vaidmens nustatymo tąsa, tačiau reikalauja kitokio požiūrio — ne į valdymą, o į darbo turinį. FTE TO AI darbo skanavimas apskaičiuoja kiekvienai užduočiai, kokią darbo dalį galima perduoti AI, nepriklausomai nuo to, kokį vaidmenį organizacija turi pagrindinės sistemos atžvilgiu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.