Ste ponudnik ali uporabnik AI — in zakaj je to zapleteneje, kot se sliši

Razvrstitev, ki ni trajno določena

Veliko organizacij predpostavlja, da je razvrstitev v ponudnika ali uporabnika enkratna: sistem se nekje nabavi in s tem je vloga vaše organizacije določena. V praksi je to bolj nianstirano. Vloga, ki jo imate glede na AI-sistem, je odvisna od tega, kaj z njim počnete, ne od tega, od kod sistem izvira. Ista organizacija je lahko za en sistem uporabnik, za drugega pa, brez da bi kdo to tako poimenoval, ponudnik.

Od česa je razvrstitev odvisna

Ključno vprašanje ni, kdo je sistem zgradil, temveč kdo ga daje na trg ali uporablja pod lastnim imenom. Organizacija, ki nabavi vnaprej pripravljen AI-sistem in ga uporablja za lasten proces, je praviloma uporabnik. Ko ta ista organizacija sistem prilagodi, ga naprej razvija, ga preznamuje ali ga pod lastnim imenom ponuja drugim, se ta slika spremeni. Pomembna je tudi stopnja nadzora nad modelom: kdo določa, s katerimi podatki se model uri, kdo določa parametre, kdo nosi odgovornost za obnašanje sistema v produkciji. Na ta vprašanja se ne odgovori enkrat ob nakupu, temveč ostajajo relevantna, dokler je sistem v uporabi.

Kaj se spremeni, ko se spremeni situacija

Vloga organizacije torej ni fiksna oznaka, temveč izid dejanske uporabe. To pomeni, da lahko notranje spremembe — nova uporaba obstoječega sistema, prilagoditev lastnega IT-oddelka, posredovanje AI-funkcije stranki ali odvisni organizaciji — spremenijo razvrstitev, ne da bi bila pred tem sprejeta formalna odločitev. Kaj to pomeni v praksi in v katerem trenutku se vloga dejansko spremeni, je podrobneje razdelano na strani o trenutku, ko se vaša vloga glede na AI-sistem spremeni. Pomembno je, da ta premik pogosto ostane neopažen, ker se dogaja na ravni oddelka, daleč od tega, kje se politika sprejema.

Zakaj to ni ločeno od stopnje tveganja

Vprašanje, ali ste ponudnik ali uporabnik, ni samostojno vprašanje. Je prepleteno z vprašanjem, kakšno stopnjo tveganja ima uporaba, in z vprašanjem, ali uporaba sodi v obseg regulacije. Sistem, ki se kot uporabnik uporablja z nizkim vplivom, lahko zahteva drugačno obravnavo kot takrat, ko ista organizacija sistem naprej prilagodi in se s tem približa vlogi ponudnika. Kaj visoka stopnja tveganja konkretno pomeni za organizacijo, je opisano na strani o tem, kaj visoka stopnja tveganja pomeni za lastno organizacijo. Prav tako ni vsaka uporaba znotraj obsega enakih zahtev; katere uporabe padejo zunaj obsega in od česa je to odvisno, je na strani o tem, katere uporabe padejo zunaj obsega.

Zakaj je to vprašanje inventarizacije, ne pravno vprašanje

Razlog, da ta razvrstitev za veliko organizacij ostaja nejasna, ni, da manjkajo pravila. Aktualno besedilo in natančna merila so navedena drugje in se s tem prispevkom ne spremenijo. Problem je pred tem: da bi vedeli, katera vloga velja, je najprej treba vedeti, kateri AI-sistemi so dejansko v uporabi, kdo jih uporablja in v kolikšni meri so prilagojeni. Ta inventarizacija v večini organizacij manjka. Uradni seznam orodij, ki jih je odobril IT, redko opisuje, kaj se dejansko uporablja. Oddelki začnejo uporabljati orodja, prilagajajo modele z lastnimi podatki ali vgradijo AI-funkcijo v notranji proces, ne da bi se to kjerkoli centralno zabeležilo. Kdor želi vedeti, ali je organizacija ponudnik ali uporabnik, mora torej najprej vedeti, kaj vse deluje — in to je vprašanje, na katero ne odgovori dokument politike, temveč inventura, ki si upa ljudi vprašati, kaj uporabljajo, brez da bi s tem povezala kakršno koli obračunavanje.

Poročanje, ki se giblje z vlogo

Ker se vloga organizacije lahko spremeni brez formalne odločitve, je za upravo in nadzorne organe pomembno, da se poročanje s tem giblje. Pristop k upravljanju, ki izhaja iz statične razdelitve vlog, zamudi trenutek, ko notranja prilagoditev organizacijo dejansko postavi v drug položaj. Kako je mogoče AI-politiko oblikovati tako, da take premike naredi vidne namesto da jih skriva, in da jo dejansko bere tisti, ki je zanjo odgovoren, je obravnavano na strani o AI-politiki, ki sledi praksi in ne le stoji v predalu.

Od določanja vloge do vprašanja, kaj AI pomeni za delo

Vprašanje, ali je vaša organizacija ponudnik ali uporabnik, se nanaša na odgovornost in obveznosti. Še ne pove ničesar o tem, kaj AI pomeni za delo samo: katere naloge prevzame, spremeni ali podpre. To vprašanje je nadaljevanje določanja vloge, vendar zahteva drugačen pogled — ne na upravljanje, temveč na vsebino dela. Delovni sken FTE TO AI za vsako nalogo izračuna, kolikšen del dela je mogoče prevzeti z AI, ne glede na to, katero vlogo ima organizacija glede na osnovni sistem.