Jeste li ponuditelj ili korisnik AI-a — i zašto je to teže nego što zvuči

Podjela koja nije fiksna

Mnoge organizacije pretpostavljaju da je podjela na ponuditelja ili korisnika jednokratna: sustav se negdje nabavi, i time je uloga vaše organizacije određena. U praksi je to nijansiranije. Uloga koju imate u odnosu na AI-sustav ovisi o tome što s njim radite, a ne o tome odakle sustav dolazi. Ista organizacija može za jedan sustav biti korisnik, a za drugi, bez da je to bilo tko tako imenovao, ponuditelj.

O čemu podjela ovisi

Ključno pitanje nije tko je sustav izgradio, nego tko ga stavlja na tržište ili primjenjuje pod vlastitim imenom. Organizacija koja nabavlja gotov AI-sustav i koristi ga za vlastiti proces, obično je korisnik. Čim ta ista organizacija sustav prilagodi, dalje razvija, ponovno oznake ili ga pod vlastitim imenom ponudi drugima, ta slika se mijenja. I stupanj kontrole nad modelom igra ulogu: tko određuje s kojim se podacima trenira, tko utvrđuje parametre, tko nosi odgovornost za ponašanje sustava u produkciji. Na ta se pitanja ne odgovara jednom prilikom nabave, nego ostaju relevantna sve dok je sustav u upotrebi.

Što se mijenja kad se situacija promijeni

Uloga organizacije nije, dakle, fiksna oznaka, nego rezultat stvarne upotrebe. To znači da interne promjene — nova primjena postojećeg sustava, prilagodba od strane vlastitog IT-odjela, prosljeđivanje AI-funkcije klijentu ili kćerinskoj organizaciji — mogu izmijeniti podjelu bez da je tomu prethodila formalna odluka. Što to znači za praksu, i u kojem trenutku se uloga stvarno mijenja, dalje se obrađuje na stranici o trenutku u kojem se vaša uloga u odnosu na AI-sustav mijenja. Važno je da se ova promjena često ne primijeti, jer se odvija na razini odjela, daleko od mjesta gdje se politika utvrđuje.

Zašto to nije odvojeno od razine rizika

Pitanje jeste li ponuditelj ili korisnik ne stoji samo za sebe. Povezano je s pitanjem koju razinu rizika primjena ima, i s pitanjem ulazi li primjena u opseg propisa. Sustav koji se kao korisnik primjenjuje s niskim učinkom može zahtijevati drugačiji pristup nego kada ta ista organizacija sustav dalje prilagođava i time se približava ulozi ponuditelja. Što viša razina rizika konkretno znači za samu organizaciju opisano je na stranici o tome što visoka razina rizika znači za vlastitu organizaciju. Također, nije svaka primjena u opsegu istih zahtjeva; koje primjene padaju izvan toga i o čemu to ovisi, stoji na stranici o primjenama koje padaju izvan opsega.

Zašto je to pitanje inventarizacije, a ne pravno pitanje

Razlog zašto ova podjela za mnoge organizacije ostaje nejasna nije nedostatak pravila. Aktualni tekst i precizni kriteriji stoje negdje drugdje i ne mijenjaju se ovim tekstom. Problem se nalazi ispred toga: da se zna koja uloga vrijedi, prvo mora biti poznato koji AI-sustavi se stvarno koriste, od koga, i s kojim stupnjem prilagodbe. Ta inventarizacija u većini organizacija nedostaje. Službeni popis alata koje je odobrio IT-odjel rijetko opisuje što se stvarno koristi. Odjeli počinju koristiti alate, prilagođavaju modele vlastitim podacima, ili ugrađuju AI-funkciju u interni proces, bez da se to bilo gdje centralno bilježi. Tko želi znati je li organizacija ponuditelj ili korisnik, mora prvo znati što se odvija — a to je pitanje na koje se ne odgovara dokumentom politike, nego inventarom koji se usudi pitati ljude što koriste, bez da se to poveže s obračunom.

Izvještavanje koje se pomiče s ulogom

Budući da se uloga organizacije može promijeniti bez formalne odluke, za upravu i nadzorna tijela važno je da se izvještavanje s tim pomiče. Pristup upravljanju koji polazi od statične podjele uloga propušta trenutak u kojem interna prilagodba organizaciju stvarno stavlja u drugačiju poziciju. Kako se AI-politika može tako oblikovati da ovakve promjene čini vidljivima umjesto da ih skriva, i da je stvarno čita onaj tko je za nju odgovoran, obrađuje se na stranici o AI-politici koja odgovara praksi umjesto da stoji u ormaru.

Od utvrđivanja uloge do pitanja što AI znači za posao

Pitanje je li vaša organizacija ponuditelj ili korisnik odnosi se na odgovornost i obveze. Ono još ne govori ništa o tome što AI znači za sam posao: koje zadatke preuzima, mijenja ili podupire. To pitanje slijedi na utvrđivanje uloge, ali traži drugačiji pogled — ne na upravljanje, nego na sadržaj rada. Radna skeniranja (werkscan) FTE TO AI izračunava po zadatku koji se dio posla može prepustiti AI-u, bez obzira na ulogu koju organizacija ima u odnosu na temeljni sustav.