Preden risiconiveau, obveznost ali ukrep upravljanja dobi pomen, mora biti jasno, kakšno vlogo igra vaša organizacija. Kdor dá sistem AI na trg, ima drugačne odgovornosti kot kdor uporablja sistem, ki ga je zgradil nekdo drug. Izraz, ki se za to uporablja, je znan: ponudnik nasproti uporabniku. Toda razvrstitev sama po sebi ni določena v organigramu. Odvisna je od tega, kaj organizacija počne z določenim sistemom, in to se lahko razlikuje po sistemu, po oddelku in po trenutku.
Osrednje vprašanje ni, kdo je sistem kupil ali namestil, temveč kdo ga je dal na trg ali ga ponuja pod lastnim imenom. Organizacija, ki kupuje in uporablja programsko opremo tako, kot je bila dostavljena, je običajno uporabnik. Organizacija, ki razvija sistem, ga naroči v razvoj pod svojim imenom ali obstoječi sistem prilagodi tako, da funkcionalno postane nekaj drugega, lahko s tem pride v vlogo ponudnika. Prav to je pogosto točka, kjer se organizacije zmotijo: fino uglaševanje modela, izgradnja lastne plasti nad zunanjim sistemom ali učenje klepetalnega robota na lastnih podatkih lahko spremeni vlogo, brez da bi kdo to izkusil kot zavestno odločitev. Kaj natanko šteje kot prilagoditev, ki spremeni vlogo, je opisano na strani kaj se spremeni, če model sami prilagodite.
Večina organizacij ni izključno ponudnik ali izključno uporabnik. Banka, ki uporablja zunanji jezikovni model za storitve za stranke, je v tem primeru uporabnik, toda če ta ista banka interno razvit model tveganja omogoči drugemu oddelku ali stranki, za ta sistem nastane vloga ponudnika. To pomeni, da je treba razvrstitev opraviti za vsako uporabo posebej, ne enkrat za celotno organizacijo. Popis, ki za vsak sistem posebej določi, kdo ga je zgradil, kdo ga je prilagodil in kdo ga uporablja, je zato edini način, da se to vprašanje odgovori strukturno in ne priložnostno.
Vloga ni fiksna lastnost organizacije, temveč status, ki je podvržen spremembam. Dobavitelj lahko spremeni svoj sistem na način, ki vpliva na profil tveganja. Notranji razvijalec lahko notranje orodje razvije naprej v nekaj, kar se ponuja zunaj organizacije. Sistem, ki je nekoč prišel v organizacijo kot preprosto orodje, lahko po posodobitvi izvaja naloge, ki ga uvrstijo v drugo kategorijo tveganja. Na katerih trenutkih ta premik konkretno nastopi in kaj to pomeni za to, kdo je takrat odgovoren, je razloženo na strani kdaj se vaša vloga spremeni. Za organizacije, ki želijo razumeti, kaj premik proti višjemu risiconiveau v praksi pomeni, kaj visok risiconiveau pomeni za vašo organizacijo ponuja nadaljnjo razdelavo.
Ne vsaka uporaba, ki se označuje z umetno inteligenco, spada v okvir, za katerega je delitev vlog pomembna. Nekateri sistemi ne spadajo v obseg, za katerega je ta razvrstitev narejena, in za organizacijo je enako pomembno vedeti, kaj ne spada v obseg, kot je pomembno vedeti, kaj spada vanj. Sicer se čas porabi za razvrščanje nečesa, kar razvrščanja ni potrebovalo, ali pa se nekaj spregleda, ker se je zdelo preveč majhno. Katere uporabe ne spadajo v ta okvir in zakaj, je opisano na strani katere uporabe ne spadajo v obseg.
Ugotovitev vloge je prvi korak, ne izid procesa upravljanja. Po razvrstitvi sledi vprašanje, kaj mora dejansko potekati za vsako vlogo in vsak risiconiveau, in to vprašanje se razdeli na dve kategoriji: kaj zahteva takojšnjo pozornost in kaj se lahko načrtuje na daljši rok. Ti dve kategoriji se pogosto zamenjujeta, kar ima za posledico, da nujne zadeve ostajajo neurejene, medtem ko se čas porabi za nekaj, kar še ni nujno. Pregled tega, kaj ima pri tem prednost, je na strani kaj je treba narediti zdaj in kaj se lahko načrtuje. Kdor želi vprašanje delitve vlog še dodatno poglobiti, s natančnimi merili, ki določajo mejo med ponudnikom in uporabnikom, to razdelavo najde na strani ali ste ponudnik ali uporabnik: od česa je to odvisno.
Ta razvrstitev je smiselna samo, če se uporabi na tem, kaj se dejansko dogaja v organizaciji, ne na tem, kaj je na potrjenem seznamu. Sistemi, ki so bili uvedeni brez dovoljenja, prav tako štejejo, in pripadajočo vlogo je treba prav tako ugotoviti. To zahteva popis, ki presega IT-administracijo.
Ko je jasno, kakšno vlogo organizacija igra pri posameznem sistemu, se pozornost samodejno usmeri na drugo vprašanje: kaj ti sistemi pravzaprav počnejo in kateri del dela prevzemajo. To vprašanje je zunaj obsega presoje upravljanja, vendar se nanjo neposredno navezuje. Delovna presoja podjetja FTE TO AI za vsako nalogo izračuna, kateri del dela je mogoče prevzeti z AI, in tako poleg slike obveznosti ponudi tudi slika vpliva sistema.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.