Kennisbank

Kaj se spremeni, če model sami prilagodite?

Nakup sistema umetne inteligence in njegova uporaba, kakršen je dobavljen, je drugačna situacija kot prilagajanje modela lastnim podatkom ali namenu. Ta prilagoditev lahko spremeni razvrstitev vaše organizacije — in s tem vprašanja, na katera morate znati odgovoriti. Ali se to zgodi in kako pomembno je to, je odvisno od tega, kaj natančno se prilagaja in za kaj se sistem uporablja.

Od česa je odvisna razvrstitev

Razvrstitev ni odvisna od vprašanja, ali ste sami napisali izvorno kodo. Odvisna je od tega, kaj se dejansko zgodi z modelom, ko pride k vam. Nekaj dejavnikov, ki so pri tem pomembni:

• Narava prilagoditve. Uporaba sistema, kakršen je dobavljen, je nekaj drugega kot fino uravnavanje (finetuning) na lastnih podatkih, povezovanje z lastnimi viri ali uporaba za namen, ki ga prvotni ponudnik ni predvidel.
• Kdo izvede spremembo. Interni podatkovni strokovnjak, ki dodatno uri model, je drugačna situacija kot ponudnik, ki na zahtevo dobavi različico.
• Vpliv na tveganje. Prilagoditev, ki bistveno spremeni obnašanje sistema, je drugačna od prilagoditve, ki zadeva le vmesnik ali obliko izhoda.
• Uporaba, v kateri se model uporablja. Ista prilagoditev ima lahko pri eni uporabi malo posledic, pri drugi pa spremeni vlogo vaše organizacije. Katere uporabe se štejejo in katere ne, je vprašanje, ki ga je treba obravnavati posebej – glejte katere uporabe ne sodijo v obseg obveznosti upravljanja.

Ti dejavniki delujejo skupaj. Ni fiksnega mejnika, ki bi veljal v vseh primerih; aktualna zakonodaja z natančnimi merili je opredeljena drugje in se lahko spremeni. Kar ostaja na tej strani, je mehanizem: prilagajanje lahko spremeni vlogo, in vloga določa obveznost.

Od uporabnika do nečesa drugega

Vloga, ki jo prevzame vaša organizacija pri sistemu umetne inteligence, ni fiksna. Kdor model zgolj uporablja, kot je bil dobavljen, je praviloma v drugačnem položaju kot kdor model spremeni in ga nato sam trži ali interno v velikem obsegu uporablja. Vprašanje, kdaj pride do tega prehoda in kaj se v tistem trenutku spremeni glede tega, kaj morate znati izkazati, je obravnavano na kdaj se vaša vloga spremeni in kje je ta meja. Za organizacije, ki dvomijo, ali so ponudnik ali uporabnik — vprašanje, ki se pojavlja pogosteje, kot bi si mislili, takoj ko pride do interne prilagoditve — je na voljo ločena razlaga na razlika med ponudnikom in uporabnikom sistema umetne inteligence.

Razlog, zakaj je to pomembno, ni formalen. Sprememba vloge spremeni, kaj morate znati pokazati: katero dokumentacijo vodite, kdo znotraj organizacije je odgovoren za nadzor, in katere korake ste izvedli, preden je prilagojen sistem začel delovati. Model, ki ste ga sami prilagodili, je model, za katerega lahko od vas zahtevajo, da utemeljite, kako je ta prilagoditev nastala.

Kaj to pomeni za stopnjo tveganja

Prilagoditev lahko vpliva tudi na stopnjo tveganja neke uporabe. Model, ki je bil sprva namenjen manj tvegani uporabi, lahko zaradi prilagoditve pride v strožjo kategorijo — na primer, kadar se po prilagoditvi uporablja za odločitve o ljudeh. Kaj visoka stopnja tveganja konkretno pomeni za obveznosti vaše organizacije, je opisano na kaj visoka stopnja tveganja pomeni za zahteve do vaše organizacije. Tudi tu velja: razvrstitev izhaja iz uporabe, ne iz namena, s katerim je bil model nekoč zgrajen.

To neposredno zadeva jedro sence umetne inteligence (shadow AI). Prilagoditev, ki ne poteka prek IT — ekipa, ki sama fino uravnava model na lastnem naboru podatkov, ali oddelek, ki povezuje zunanji model z notranjimi sistemi, ne da bi o tem poročal — spremeni razvrstitev vaše organizacije, ne da bi bila uprava o tem obveščena. Seznam IT te prilagoditve ne pokaže. Kdor želi vedeti, ali se to dogaja, mora povprašati ekipe, ki z njim vsak dan delajo, in ta pogovor prinese rezultat le, če poteka brez posledic za tiste, ki odgovarjajo.

Kaj se spremeni v praksi

Ko prilagoditev spremeni vlogo ali stopnjo tveganja neke uporabe, se hkrati spremeni več stvari: dokumentacija, ki jo je treba voditi, vprašanje, kdo znotraj organizacije je lastnik te uporabe, in trenutek, od katerega naprej se nekaj lahko še načrtuje, v primerjavi s tem, kaj že terja takojšnjo pozornost. Ta razlika — med tem, kaj je že zdaj nujno, in tem, kaj se lahko načrtuje — je povezana z dejavniki, ki so pojasnjeni na kaj že zdaj terja pozornost in kaj se lahko še načrtuje. Podrobnejša razdelava samega vprašanja razvrstitve, vključno z mejnimi primeri, ki se v praksi najpogosteje pojavljajo, je na voljo na celotna razlaga o tem, kaj se spremeni pri prilagajanju modela.

Prilagojen model je v praksi pogosto tudi model, ki prevzame del dela ljudi, ki so prej neko nalogo v celoti opravljali sami. Ali je to res in kolikšen del dela to zadeva, je vprašanje, ki je ločeno od vprašanja razvrstitve, vendar pogosto sledi nanj: takoj ko je jasno, da je bil model prilagojen in za kaj se uporablja, postane vidno tudi, kateri del naloge dejansko izvaja. Delovni skener (werkscan) FTE TO AI to izračuna za posamezno nalogo in pokaže, kateri del dela je mogoče prevzeti z umetno inteligenco, ne glede na vprašanje, kako je nastal osnovni model.