Vprašanje, katere aplikacije sodijo izven obsega, zveni kot vprašanje za seznam. To ni. Ali nekaj sodi znotraj ali izven obsega, je uvrstitev, ki je odvisna od tega, kaj aplikacija počne, v katerem kontekstu in za koga. Ista tehnologija lahko pri eni aplikaciji ostane izven pozornosti, pri drugi pa pride pod polno pozornost. Fiksen seznam izključenih aplikacij zato ne obstaja — obstaja pa nekaj dejavnikov, ki določajo uvrstitev.
Prvi dejavnik je funkcija aplikacije: kaj sistem odloča ali svetuje in za koga ima to posledice. Orodje, ki prepisuje interno besedilo, se razlikuje od orodja, ki soodloča o vlogi, prijavi za zaposlitev ali odškodninskem zahtevku. Drugi dejavnik je stopnja tveganja, povezana s to funkcijo: čim večje so posledice za ljudi, tem prej se aplikacija premakne proti težjemu delu spektra. Tretji dejavnik je vloga organizacije same: kdor sistem samo uporablja, se presoja drugače kot kdor ga prilagaja, dodatno uri ali sestavlja iz komponent drugih ponudnikov. Kaj natančno vključuje ta razdelitev vlog in kdaj se spremeni, je opisano na straneh o razlikovanju med ponudnikom in uporabnikom sistema AI in o trenutku, ko se vloga uporabnika spremeni v drugo obliko odgovornosti.
Četrti dejavnik je tehnične narave, vendar pravno relevanten: kar organizacija sama spremeni pri obstoječem modelu, včasih spremeni njen položaj v celoti. Model, ki je kupljen nespremenjen, se v sliki uvršča drugače kot model, ki je fino uglašen na lastnih podatkih ali vgrajen v lasten proces. Ta meja — kdaj prilagoditev pomeni spremembo vloge — je obravnavana na strani o tem, kaj se spremeni, ko se model sam prilagodi.
Ker je uvrstitev odvisna od teh dejavnikov, obseg ni nespremenljiva lastnost orodja, temveč izid, ki se lahko spremeni. Klepetalni robot, ki je začel kot interni pripomoček za pisanje, lahko, ko začne odgovarjati tudi na vprašanja strank, ki privedejo do odločitve, znajde v drugem delu spektra. Model, ki je bil kupljen kot dokončen izdelek, lahko po prilagoditvi na lastnih podatkih prinese drugačno vlogo za organizacijo. Aplikacija, ki danes velja za nizko tvegano, lahko jutri tehta več, ker se je spremenil kontekst, v katerem se uporablja — druga ekipa, druga odločitev, druga skupina ljudi, na katero vpliva izid.
Ravno zato enkratna uvrstitev ne zadošča. Klasifikacija, ki je bila določena ob uvedbi, ne pove nič o tem, kaj orodje počne leto pozneje. Kaj mora danes priti pod obseg in kaj se lahko načrtuje za pozneje, je torej samo vprašanje, ki je odvisno od trenutne situacije — podrobneje obdelano na strani o vrstnem redu med tem, kaj zdaj zahteva pozornost, in tem, kaj lahko sledi pozneje.
Uvrstitev znotraj in izven obsega postane težja zaradi praktičnega problema: uradni seznam kupljenih ali odobrenih orodij ni isti seznam kot orodja, ki se dejansko uporabljajo. Ekipe začnejo uporabljati funkcionalnost AI, ne da bi to speljale skozi postopek prijave — ne iz nevoljnosti, ampak ker je enostavno dostopna in reši problem. Ta senčna AI je ravno tisti del, ki onemogoča uvrstitev znotraj ali izven obsega, dokler nihče ne ve, da aplikacija obstaja.
Kdor želi to slko popraviti, mora vprašati — in to tako, da vprašanje ne deluje kot prikrit očitek. Takoj ko zaposleni sumi, da bo pošten odgovor privedel do sankcije, odgovor izostane in orodje ostane pod radarjem. Popis, ki je zgrajen na osnovi obračunavanja, torej po definiciji daje nepopolno slko — in nepopolna slika naredi vsako uvrstitev v obseg začasno.
Ker se obseg lahko spremeni, je zapisovanje uvrstitve vsaj tako pomembno kot uvrstitev sama. Kdo je odločil, da aplikacija sodi izven obsega, na podlagi katerih informacij in v katerem trenutku — takšna vprašanja postanejo neodgovorljiva, takoj ko zapis manjka. Kako organizacija to vrsto odločitve uredi tako, da je izvedljiva in sledljiva, je opisano na strani o seznamu odločitev, ki naredi odločitve o nadzoru sledljive, in kako se ta uvrstitev prepoznavno vrne v dokument, ki ga zaposleni dejansko uporabljajo, na strani o politiki AI, ki se ujema s tem, kaj ljudje res delajo.
Vprašanje uvrstitve — kaj sodi znotraj obsega in kaj ne — govori o tveganju in odgovornosti, ne o tem, kaj aplikacija pomeni za samo delo. To drugo vprašanje, kaj lahko posamezna naloga natančno prepusti AI, je ločen izračun. Delovni sken FTE TO AI izračuna za posamezno nalogo, kateri del dela je mogoče prevzeti, ne glede na vprašanje, kako se ta aplikacija uvršča v razvrstitev upravljanja.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.