Prije nego što razina rizika, obveza ili mjera upravljanja dobije značenje, mora biti jasno koju ulogu vaša organizacija ima. Onaj koji stavlja AI-sustav na tržište ima druge odgovornosti od onoga koji koristi sustav koji je izgradio netko drugi. Termin koji se za to koristi je poznat: ponuditelj naspram korisnika. Ali sama klasifikacija nije fiksirana u organigramu. Ona ovisi o tome što organizacija radi s konkretnim sustavom, a to se može razlikovati po sustavu, po odjelu i po trenutku.
Ključno pitanje nije tko je sustav kupio ili instalirao, nego tko ga je stavio na tržište ili ga stavlja na raspolaganje pod vlastitim imenom. Organizacija koja nabavlja i koristi softver kako je isporučen, u pravilu je korisnik. Organizacija koja razvija sustav, dâ ga razviti pod svojim imenom, ili postojeći sustav prilagodi tako da funkcionalno postane nešto drugo, time može zauzeti ulogu ponuditelja. To posljednje je često točka na kojoj se organizacije prevare: fino podešavanje (finetuning) modela, izgradnja vlastitog sloja na vanjskom sustavu, ili treniranje chatbota na vlastitim podacima može promijeniti ulogu bez da je to bilo tko doživio kao svjesnu odluku. Što točno pri tome računa kao prilagodba koja mijenja ulogu, opisano je na što se mijenja kada sami prilagođavate model.
Većina organizacija nije isključivo ponuditelj ili isključivo korisnik. Banka koja koristi vanjski jezični model za korisničku podršku u tome je korisnik, ali ako ta ista banka interno razvijeni model rizika stavi na raspolaganje drugom odjelu ili klijentu, za taj sustav nastaje uloga ponuditelja. To znači da se klasifikacija mora raditi po primjeni, a ne jednom za cijelu organizaciju. Inventar koji po sustavu bilježi tko ga je izgradio, tko ga je prilagodio i tko ga koristi, zato je jedini način da se ovo pitanje odgovori strukturno, a ne povremeno.
Uloga nije fiksno svojstvo organizacije, nego status koji je podložan promjeni. Dobavljač može promijeniti svoj sustav na način koji utječe na profil rizika. Interni razvojni tim može interno pomagalo razviti dalje u nešto što se ponudi izvan organizacije. Sustav koji je nekad ušao kao jednostavan alat, može nakon nadogradnje izvršavati zadatke koji ga svrstavaju u drugu kategoriju rizika. U kojim trenucima ova promjena konkretno nastupa i što to znači za onoga koji je tada odgovoran, objašnjeno je na kada se vaša uloga mijenja. Za organizacije koje žele razumjeti što promjena prema višoj razini rizika u praksi znači, što znači visoka razina rizika za vašu organizaciju donosi dodatnu obradu.
Ne svaka primjena koja se označava kao umjetna inteligencija spada u okvir za koji je podjela uloga relevantna. Neki sustavi padaju izvan opsega za koji je ova klasifikacija napravljena, i za organizaciju je jednako važno znati što pada izvan opsega kao i znati što pada unutar njega. Inače se vrijeme troši na klasifikaciju nečega što klasifikaciju nije trebalo, ili se nešto zaboravi jer se doimalo previše malim. Koje primjene padaju izvan ovog okvira i zašto, opisano je na koje primjene padaju izvan opsega.
Određivanje uloge je prvi korak, ne rezultat procesa upravljanja. Nakon klasifikacije slijedi pitanje što se za svaku ulogu i svaku razinu rizika stvarno mora učiniti, a to se pitanje raspada u dvije kategorije: ono što zahtijeva neposrednu pažnju i ono što se može planirati na duži rok. Te dvije kategorije se često pomiješaju, s posljedicom da hitne stvari ostaju neriješene dok vrijeme odlazi na nešto što još nije akutno. Pregled onoga što u tome ima prioritet nalazi se na što treba sada, a što se može planirati. Onaj koji pitanje podjele uloga želi dalje razraditi, s precizni kriterijima koji određuju granicu između ponuditelja i korisnika, tu razradu nalazi na jeste li ponuditelj ili korisnik: o čemu to ovisi.
Ova klasifikacija ima smisla samo ako se primjenjuje na ono što se stvarno odvija u organizaciji, a ne na ono što se nalazi na odobrenom popisu. Sustavi koji su uvedeni bez dozvole i dalje se računaju, i uloga koja im pripada mora se jednako dobro utvrditi. To zahtijeva inventar koji ide dalje od IT-administracije.
Čim je jasno koju ulogu organizacija ima po sustavu, pažnja se sama pomiče prema drugom pitanju: što ti sustavi zapravo rade, i koji dio posla preuzimaju. To pitanje leži izvan skena upravljanja, ali se izravno na njega nadovezuje. Radni sken (werkscan) tvrtke FTE TO AI po zadatku izračunava koji dio posla je moguće prepustiti AI-u, i time daje sliku utjecaja sustava uz sliku obveza koje uz njega idu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.