Kennisbank

Nujno ali načrtljivo: od česa je odvisna razvrstitev

Vprašanje za vprašanjem

Popis uporabe AI navadno prinese seznam, ki je preveč obsežen, da bi ga obravnavali v enem koraku. Vprašanje, ki sledi, ni "kaj moramo storiti", temveč "kaj moramo storiti najprej". To je vprašanje razvrščanja, in odgovor ni odvisen od tega, koliko sistemov obstaja, temveč od tega, kaj ti sistemi počnejo in za koga.

Od česa je odvisna nujnost

Prvi dejavnik je stopnja tveganja same aplikacije. Sistem, ki pripravlja odločitve o ljudeh — zaposlovanje, dodeljevanje kredita, dodeljevanje oskrbe ali dajatev — zahteva drugačno obravnavo kot orodje, ki prepisuje besedilo za notranjo uporabo. Kaj visoka stopnja tveganja pomeni za vašo organizacijo se torej razlikuje glede na vrsto aplikacije, in te razlike določajo, kateri sistemi so na vrsti najprej.

Drugi dejavnik je vloga organizacije pri tem sistemu. Kdor kupi model in ga uporablja nespremenjenega, ima drugačne obveznosti kot kdor model dodatno usposablja na lastnih podatkih ali strukturno prilagaja rezultat. Ali ste ponudnik ali uporabnik aplikacije AI ne določa le, katere obveznosti veljajo, temveč tudi, koliko časa je potrebno za izpolnitev teh obveznosti — ponudnik ima navadno več pripraviti kot uporabnik.

Tretji dejavnik je, ali je sistem že v uporabi ali se še nabavlja. Tveganje, ki že deluje — z resničnimi uporabniki, resničnimi odločitvami, resničnimi podatki — zahteva drugačen vrstni red kot tveganje, ki je še v pogodbeni fazi, kjer je dogovore mogoče še zapisati, preden sistem začne delovati.

Kaj se spremeni, ko se razmere spremenijo

Ta razvrstitev ni trenutni posnetek. Sistem, ki je danes nizkega tveganja, po prilagoditvi to morda ni več. Kaj pomeni, če model sami prilagodite — fino uravnavanje, nov nabor podatkov, druga uporaba iste osnovne tehnologije — je odvisno od tega, kaj se natančno spremeni, vendar razvrstitev, ki je bila narejena prej, s tem samodejno ne ostane veljavna.

Enako velja za spremembo vloge. Organizacija, ki prevzame vnaprej pripravljen model in ga nato bistveno prilagodi, lahko s tem preide od uporabnika k ponudniku. Kdaj se ta vloga spremeni ni vedno trenutek same prilagoditve, temveč trenutek, ko ta prilagoditev spremeni značaj sistema. Tudi to je vprašanje razvrščanja, in tudi to zahteva ponovno presojo, ko se razmere spremenijo — ne enkratni pregled, ki nato ostane veljaven.

In sistem, ki je še v nabavi, se premakne iz načrtljivega v nujno v trenutku, ko začne delovati. Razvrstitev, ki je veljala za pogodbeno fazo, ne velja za fazo uporabe.

Kaj to pomeni za vrstni red

Praktična posledica je, da popis ne poda enkratnega seznama prioritet, temveč strukturo, ki jo je treba ponovno preverjati. Sistemi z visoko stopnjo tveganja in aktivno vlogo ponudnika zahtevajo pozornost zdaj. Sistemi z nizko stopnjo tveganja, ki še niso v uporabi, se lahko načrtujejo — vendar mora načrt vsebovati trenutek, ko se ponovno preveri, ker lahko prilagoditve, spremembe vloge ali začetek uporabe razvrstitev obrnejo.

Za to je potrebno stalno mesto, kjer se zapisujejo odločitve o tej razvrstitvi: kateri sistem je bil označen kot nujen, na podlagi katerega dejavnika, in kdaj je bila ta presoja nazadnje opravljena. Seznam odločitev o nadzoru je oblika, v kateri se ta razvrstitev naredi dokazljivo — ne kot dodatna administracija, temveč kot edini dokaz, da razvrstitev ni naključna, temveč rezultat ponovljivega procesa.

Dejanska zakonodaja — kateri roki veljajo, katere obveznosti po razredu tveganja spadajo h kateremu datumu — je opisana drugje. Ta stran opisuje mehanizem, s katerim ločite nujno od načrtljivega; trenutnega besedila zakona in rokov tukaj ne najdete.

Od razvrstitve do vsebine

Razvrstitev na nujno in načrtljivo pove nekaj o vrstnem redu pozornosti, ne o vsebini samega dela. Ko je jasno, katera aplikacija AI dobi prednost, ostane odprto vprašanje, kaj ta aplikacija natančno počne z delom, ki je z njo povezano: kateri del naloge poteka samodejno, kateri del zahteva nadzor in kateri del ostane pri človeku. Na to vprašanje odgovarja delovni scan podjetja FTE TO AI, ki za posamezno nalogo izračuna, kateri del dela je mogoče prepustiti AI — dopolnitev razvrstitvi, ki je narejena tukaj, usmerjena na vsebino samega dela.