Kennisbank

Kada se mijenja vaša uloga, i o čemu to ovisi

Mnoge organizacije pretpostavljaju da je njihova uloga fiksna: one su korisnik sustava koji je izgradio dobavljač, a obveze koje uz to idu su jasne i trajne. Ta pretpostavka često je točna, ali ne uvijek. Uloga koju organizacija ima u odnosu na AI-sustav nije fiksna oznaka. To je ishod onoga što se stvarno događa sa sustavom, a taj ishod se može promijeniti bez potpisivanja novog ugovora ili nove nabave.

O čemu ovisi podjela

Podjela uloge ovisi o nizu činjeničnih elemenata, a ne o tome kako dobavljač naziva sustav ili kako ga interno pozicionira neki odjel. Relevantno je, među ostalim, tko je sustav stavio na tržište, tko sustav zapravo koristi u vlastitom procesu, i tko je sustav prilagodio nakon isporuke. Također se uzima u obzir pod kojim se nazivom sustav prikazuje javnosti, te prosljeđuje li organizacija sustav drugima bez da ga sama koristi. Ovi elementi zajedno određuju nastupa li organizacija kao davatelj, kao korisnik, ili kao strana koja se nalazi negdje između.

Razlog zbog kojeg je ovo relevantno za upravljanje (governance) je što uloga određuje koje obveze pripadaju kojoj strani. Organizacija koja je samo korisnik ima druge odgovornosti od organizacije koja stvarno djeluje kao davatelj. Što se točno očekuje od svake uloge, opisano je na drugom mjestu; ovdje je riječ o mehanizmu koji određuje koja uloga vrijedi, i o prepoznavanju trenutka u kojem taj mehanizam daje drugačiji ishod nego prije.

Što se mijenja kada se situacija promijeni

Uloga nije vezana za sustav tijekom cijelog njegovog vijeka trajanja. Vezana je za ono što se stvarno događa u određenom trenutku. To znači da ista organizacija za isti sustav u dva trenutka može spadati u drugu ulogu. Nekoliko situacija u kojima se to događa: tim koji dodatno obučava (finetune) nabavljeni model na vlastitim podacima, odjel koji sustav ponovno označi i ponudi drugim odjelima pod vlastitim nazivom, ili organizacija koja sustav prvotno namijenjen za internu upotrebu prosljeđuje klijentu ili partneru. U svakom od tih slučajeva stvarna se uloga mijenja, čak i ako se izvana malo toga promijenilo.

Ono što se u praksi mijenja nije apstraktno. Određuje tko je odgovoran za dokumentaciju, tko mora dokazati da sustav radi ono što tvrdi da radi, i tko treba reagirati ako nešto krene po zlu. Više o tome što se točno mijenja kada se model prilagođava, opisano je na stranici o prilagodbama modela. Ta promjena jedan je od najjasnijih primjera kako se uloga mijenja bez da joj prethodi svjesna odluka.

Zašto je ovo relevantno za upravljanje (governance)

Razlog zbog kojeg ova tema nije relevantna samo pravno, nego i organizacijski, je što se promjena uloge često dogodi neprimijećeno. Tim koji prilagođava model razmišlja o tehničkom poboljšanju, a ne o promjeni odgovornosti. Odjel koji prosljeđuje alat drugom odjelu razmišlja o praktičnosti, a ne o novoj ulozi davatelja. Upravljanje koje gleda samo na ono što je nabavljeno, sustavno propušta te promjene.

Ovo je povezano s pitanjem koje primjene točno spadaju pod određenu regulativu a koje ne; ta granica obrađena je na stranici o opsegu primjena. Sustav koji je bio izvan opsega u trenutku nabave, može doći u opseg čim se uloga organizacije promijeni. To znači da nije dovoljno provjeriti jednom prilikom nabave; provjera se mora prilagođavati onome što se stvarno događa sa sustavom.

Razina rizika neke primjene također se može mijenjati zajedno s promjenom uloge. Što točno znači visoka razina rizika za obveze organizacije, i o čemu to ovisi, objašnjeno je na stranici o posljedicama visoke razine rizika. Organizacija koja zbog promjene uloge iznenada vrijedi kao davatelj sustava s visokom razinom rizika, nosi drugačije odgovornosti nego kad je bila samo korisnik istog sustava.

Kako organizacija to prepoznaje

Da bi prepoznala promjene uloge prije nego što postanu problem, organizacija mora znati koji sustavi postoje, tko ih prilagođava, i tko ih kome prosljeđuje. To zahtijeva inventar koji ide dalje od popisa koji je odobrio IT odjel, te fiksno mjesto na kojem se bilježe odluke o prilagodbi, prosljeđivanju i ponovnom označavanju. Takvo fiksno mjesto, i pitanja koja uz njega idu, opisani su na stranici o popisu odluka nadzora.

Responsible AI Scan izgrađen je da učini te promjene vidljivima: koji sustavi stvarno rade, tko ih koristi, tko ih je prilagodio, i koja uloga iz toga trenutno slijedi. Alat koji to podržava je u izradi; tko ga želi koristiti, može se prijaviti na listu čekanja.

Promjena uloge ne utječe samo na upravljanje (governance). Kada sustav prijeđe od pomoćnog alata u nešto što strukturno preuzima dio zadatka, mijenja se i pitanje koliko posla taj sustav zapravo obavlja i koliko ga još preostaje ljudima. Werkscan tvrtke FTE TO AI izračunava po zadatku koji dio posla AI može preuzeti, čime se otkriva gdje se promjena uloge u upravljanju poklapa sa stvarnom promjenom u raspodjeli posla.