Organizacije pogosto mislijo, da je njihova vloga fiksna: mi smo uporabnik, dobavitelj je ponudnik, konec zgodbe. Ta domneva pogosto ne drži, ali pa danes drži, jutri pa ne več. Vloga, ki jo ima organizacija glede na sistem AI, ni fiksna lastnost organizacije. Je izid tega, kaj se z sistemom dogaja: kdo ga izdela, kdo ga prilagodi, kdo ga trži in pod katerim imenom. Če se eden od teh dejavnikov spremeni, se lahko spremeni tudi vloga, in s tem obveznosti, ki k njej sodijo.
Zaradi tega razvrstitev ni enkraten posnetek stanja. Vloga, ki je bila ob nakupu pravilno določena, lahko leto pozneje ni več pravilna, ne da bi bila znotraj organizacije o tem sprejeta kakršna koli zavestna odločitev.
Razvrstitev je odvisna od omejenega števila dejavnikov, ki pa ne izvirajo vsi od stranke, ki sistem uporablja. Relevantno je med drugim, ali je bil sistem razvit interno ali kupljen, ali se kupljeni sistem uporablja nespremenjen ali se prilagaja, in ali prilagoditev vpliva na profil tveganja sistema. Relevantno je tudi, pod katerim imenom se sistem pojavlja navzven: sistem, ki se prodaja naprej ali nadalje razvija pod lastno znamko, lahko prinese drugačno vlogo kot nespremenjeno delovanje zunanjega izdelka. Za natančno mejo med tema dvema položajema je relevantna stran o tem, kaj se spremeni, ko organizacija sama prilagodi kupljeni model, za osnovno vprašanje, katera od dveh glavnih vlog velja, pa je na voljo stran, ki pojasnjuje, od česa je natančno odvisna izbira med ponudnikom in uporabnikom.
Razvrstitev torej ni nekaj, kar organizacija enkrat določi in nato arhivira. Je klasifikacija, ki jo je treba ponovno oceniti, takoj ko se osnovna dejstva spremenijo.
Če se vloga spremeni, se spremeni tudi to, kaj se od organizacije pričakuje. Stranka, ki je izključno uporabnik, ima drugačne obveznosti kot stranka, ki je (so)odgovorna za nastanek sistema. To ne vpliva le na papirologijo. Vpliva tudi na to, kje znotraj organizacije bi morala biti odgovornost za sistem, kdo o njem poroča in kakšna raven nadzora je primerna.
Ta premik vpliva tudi na vprašanje, kako resno je treba sistem interno obravnavati. Sprememba vloge lahko pomeni, da je treba sistem, ki je bil prej obravnavan kot obvladljiv, ponovno oceniti glede stopnje tveganja — vprašanje, ki je posebej obravnavano na strani o tem, kaj visoka stopnja tveganja pomeni za organizacijo, ki sistem uporablja ali ponuja. Po drugi strani lahko sprememba vloge tudi pomeni, da sistem ravno pade zunaj področja uporabe določenih obveznosti, ali pa ravno pade znotraj njega. Katere vrste aplikacij natančno padejo zunaj obsega in katere ravno ne, je pojasnjeno na strani o tem, katere vrste aplikacij AI padejo zunaj obsega obveznosti.
Dejavniki, ki povzročijo spremembo vloge, se večinoma dogajajo na ravni, kjer uprava, pravni oddelek ali upravljanje tveganj nimajo samodejnega vpogleda. Ekipa, ki fine-tunira kupljeni model na lastnih podatkih. Oddelek, ki zunanji chatbot izdelek posreduje strankam pod lastnim imenom izdelka. Integracija, ki model dobavitelja združi z lastnimi pravili in to kombinacijo nato ponudi navzven. Nobeden od teh korakov samodejno ne gre skozi centralni register, in seznam IT odobrenih orodij tovrstne spremembe običajno ne zazna, ker se sprememba ne prepozna kot "nov nakup", temveč kot prilagoditev nečesa, kar je bilo že odobreno.
Zato spremembe vlog postanejo vidne šele, ko gre kaj narobe, ali ko se od zunaj zahteva odgovornost. Vprašanje "kakšna je naša vloga pri tem sistemu" se takrat odgovori za nazaj, v trenutku, ko je manevrski prostor za prilagoditev manjši, kot bi bil, če bi bilo vprašanje zastavljeno prej.
Ker se razvrstitev lahko spremeni, je razlikovanje med tem, kaj trenutno zahteva pozornost, in tem, kaj je treba čez čas ponovno oceniti, relevantno za načrtovanje dela na področju upravljanja. Ne vse, kar sprememba vloge prinese, zahteva takojšnje ukrepanje; del tega je mogoče načrtovati. Kateri del je to in kateri ne more počakati, je obravnavano na strani o tem, kaj je treba urediti zdaj in kaj se lahko načrtuje za pozneje. Za strnjen povzetek samega vprašanja razvrstitve, vključno z najpomembnejšimi prelomnimi točkami, je na voljo stran, ki podrobneje obravnava natančne okoliščine, pod katerimi se vloga spremeni.
Vprašanje, katero vlogo ima organizacija glede na sistem AI, je blizu drugemu vprašanju, ki redko dobi enako pozornost: kateri del dejanskega dela v organizaciji AI že opravlja, je načrtovano, da ga bo opravljala, ali pa ga brez da bi kdo to zapisal, že prevzema. Kjer vprašanje vloge govori o odgovornosti glede na sistem, se delovna analiza podjetja FTE TO AI nanaša na razdelitev nalog samih: za vsako nalogo se izračuna, kolikšen delež lahko prevzame AI, ne glede na to, katero vlogo organizacija pri tem formalno zaseda. Ti dve vprašanji se dotikata, ker je premik v razdelitvi nalog pogosto sprožilec za spremembo vloge.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.