Organizacije često misle da je njihova uloga fiksna: mi smo korisnik, dobavljač je ponuditelj, gotovo. Ta pretpostavka redovito ne odgovara stvarnosti, ili odgovara danas a sutra više neće. Uloga koju organizacija ima u odnosu na AI sustav nije trajno svojstvo organizacije. To je ishod onoga što se s tim sustavom događa: tko ga izrađuje, tko ga prilagođava, tko ga stavlja na tržište i pod kojim nazivom. Ako se promijeni jedan od tih čimbenika, moguće je da se promijeni i uloga, a time i obveze koje uz nju idu.
Zbog toga razvrstavanje nije snimka trenutnog stanja. Uloga koja je pri nabavi bila pravilno utvrđena može godinu dana kasnije biti pogrešna, bez da je unutar organizacije o tome svjesno donesena bilo kakva odluka.
Razvrstavanje ovisi o ograničenom broju čimbenika, ali ti čimbenici ne leže svi kod strane koja sustav koristi. Relevantno je, među ostalim, je li sustav razvijen samostalno ili nabavljen, koristi li se nabavljeni sustav nepromijenjen ili se prilagođava, i utječe li prilagodba na profil rizika sustava. Također je relevantno pod kojim nazivom sustav izlazi u javnost: sustav koji se preprodaje ili dalje razvija pod vlastitom robnom markom može povlačiti drugu ulogu nego kada se vanjski proizvod pušta u rad nepromijenjen. Za precizniju granicu između te dvije pozicije relevantna je stranica o tome što se mijenja kada organizacija sama prilagođava nabavljeni model, a za temeljno pitanje koja od dviju glavnih uloga je primjenjiva, postoji stranica koja objašnjava od čega točno ovisi izbor između ponuditelja i korisnika.
Razvrstavanje, dakle, nije nešto što organizacija jednom utvrdi i zatim arhivira. To je klasifikacija koju treba ponovno procijeniti čim se temeljne činjenice promijene.
Kada se uloga promijeni, mijenja se i ono što se od organizacije očekuje. Strana koja je isključivo korisnik ima druge obveze od strane koja je (su)odgovorna za nastanak sustava. To ne utječe samo na papirologiju. Utječe i na to gdje u organizaciji odgovornost za sustav treba biti smještena, ko o tome izvještava, i koja razina nadzora je primjerena.
Ta se promjena odražava i na pitanje koliko ozbiljno se sustav interno treba vagati. Promjena uloge može dovesti do toga da sustav koji je prije smatran upravljivim treba ponovno procijeniti prema razini rizika — pitanje koje se posebno obrađuje na stranici o tome što visoka razina rizika znači za organizaciju koja sustav koristi ili nudi. Obrnuto, promjena uloge može dovesti i do toga da sustav upravo padne izvan područja primjene određenih obveza, ili upravo unutar njega. Koje vrste primjena točno padaju izvan opsega, a koje baš ne, objašnjeno je na stranici o tome koje vrste AI primjena padaju izvan opsega obveza.
Čimbenici koji uzrokuju promjenu uloge obično se odvijaju na razini na kojoj upravni odbor, pravni odjel ili upravljanje rizicima nemaju automatski uvid. Timovi koji fino podešavaju (finetune) nabavljeni model na vlastitim podacima. Odjel koji vanjski proizvod chatbota prosljeđuje klijentima pod vlastitim nazivom proizvoda. Integracija koja kombinira model dobavljača s vlastitim pravilima i tu kombinaciju zatim nudi izvana. Nijedan od tih korakova automatski ne prolazi kroz središnji registar, a IT popis odobrenih alata takvu vrstu promjene obično ne registrira, jer se promjena ne prepoznaje kao "nova nabava" nego kao prilagodba nečega što je već bilo odobreno.
Zbog toga se promjene uloge često vide tek kada nešto krene po zlu, ili kada se izvana zatraži polaganje računa. Pitanje "koja je naša uloga u ovom sustavu" tada se odgovara s retroaktivnim učinkom, u trenutku kada je prostor za prilagodbu manji nego što bi bio da je pitanje bilo postavljeno ranije.
Budući da se razvrstavanje može mijenjati, razlika između onoga što trenutno zahtijeva pažnju i onoga što se s vremenom treba ponovno procijeniti, relevantna je za planiranje rada na upravljanju (governance). Ne sve što promjena uloge nosi sa sobom zahtijeva trenutnu akciju; dio toga se može planirati. Koji je taj dio, a koji ne može čekati, obrađuje se na stranici o tome što treba riješiti sada a što se može planirati za kasnije. Za sažet pregled samog pitanja razvrstavanja, uključujući najvažnije prekretnice, postoji stranica koja dublje ulazi u precizne okolnosti pod kojima se uloga mijenja.
Pitanje koju ulogu organizacija ima u odnosu na AI sustav blisko je drugom pitanju koje rijetko dobiva istu pažnju: koji dio stvarnog posla u organizaciji AI već obavlja, planira obavljati, ili se preuzima bez da je to bilo negdje zapisano. Dok se pitanje uloge odnosi na odgovornost prema sustavu, skener rada (werkscan) FTE TO AI odnosi se na raspodjelu samih zadataka: za svaki zadatak izračunava se koji se dio može preuzeti od AI-a, neovisno o tome koju ulogu organizacija pri tome formalno ima. Ta se dva pitanja dodiruju, jer je promjena u raspodjeli zadataka često povod za promjenu uloge.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.