Kennisbank

Kas pasikeičia, kai patys pritaikote modelį?

AI sistemos įsigijimas ir jos naudojimas tokia, kokia ji pateikiama, yra kitokia situacija nei modelio pritaikymas savo duomenims ar tikslui. Toks pritaikymas gali pakeisti jūsų organizacijos priskyrimą — ir tuo pačiu klausimus, į kuriuos turite mokėti atsakyti. Ar tai įvyksta ir kiek tai svarbu, priklauso nuo to, kas konkrečiai pritaikoma ir kam sistema naudojama.

Nuo ko priklauso priskyrimas

Priskyrimas nepriklauso nuo to, ar jūs parašėte pirminį kodą. Jis priklauso nuo to, kas faktiškai vyksta su modeliu, kai jis pasiekia jus. Keletas veiksnių, kurie turi įtakos:

• Pritaikymo pobūdis. Sistemos naudojimas tokios, kokia pateikta, yra kas kita nei jos papildomas apmokymas (finetuning) savo duomenimis, susiejimas su savo šaltiniais arba naudojimas tikslui, kurio pirminis tiekėjas nenumatė.
• Kas atlieka pakeitimą. Vidinis duomenų specialistas, papildomai apmokantis modelį, yra kitokia situacija nei tiekėjas, kuris pagal užklausą pateikia variantą.
• Poveikis rizikai. Pritaikymas, kuris esmingai pakeičia sistemos veikimą, sveria kitaip nei pritaikymas, kuris paliečia tik sąsają ar išvesties formą.
• Sritis, kurioje modelis naudojamas. Tas pats pritaikymas vienoje srityje gali turėti mažai pasekmių, o kitoje srityje pakeisti jūsų organizacijos vaidmenį. Klausimas, kurios sritys šiuo atveju skaičiuojamos, o kurios ne, turi būti atsakytas atskirai — žr. kurios sritys nepatenka į valdymo pareigų apimtį.

Šie veiksniai veikia kartu. Nėra fiksuotos ribos, kuri galiotų visais atvejais; aktualūs teisės aktai su tiksliais kriterijais yra kitur, ir tas tekstas gali keistis. Kas išlieka šiame puslapyje, yra mechanizmas: pritaikymas gali pakeisti vaidmenį, o vaidmuo nulemia pareigą.

Nuo naudotojo prie kažko kito

Vaidmuo, kurį jūsų organizacija užima AI sistemos atveju, nėra fiksuotas. Kas modelį tik naudoja tokį, kokį jis pateiktas, paprastai turi kitokią padėtį nei tas, kas modelį pakeičia ir po to pats jį pateikia rinkai arba naudoja plačiai viduje. Klausimas, kada tas perėjimas vyksta ir kas tuo metu pasikeičia tame, ką turite mokėti pagrįsti, aptariamas puslapyje kada jūsų vaidmuo pasikeičia ir kur yra ta riba. Organizacijoms, kurios nėra tikros, ar jos yra tiekėjas ar naudotojas — klausimas, kuris kyla dažniau, nei manoma, kai kas nors pritaikoma viduje — yra atskiras paaiškinimas puslapyje skirtumas tarp AI sistemos tiekėjo ir naudotojo.

Priežastis, kodėl tai svarbu, nėra formali. Vaidmens pasikeitimas pakeičia tai, ką turite galėti parodyti: kokią dokumentaciją tvarkote, kas organizacijoje yra atsakingas už priežiūrą ir kokie žingsniai buvo atlikti prieš pritaikytą sistemą pradedant naudoti. Modelis, kurį patys pritaikėte, yra modelis, dėl kurio jūsų gali būti paprašyta pagrįsti, kaip tas pritaikymas atsirado.

Ką tai reiškia rizikos lygiui

Pritaikymas gali paveikti ir taikymo rizikos lygį. Modelis, kuris iš pradžių buvo skirtas mažos rizikos taikymui, pritaikymo pasekoje gali atsidurti sunkesnėje kategorijoje — pavyzdžiui, kai po pritaikymo jis naudojamas sprendimams apie žmones. Ką aukštas rizikos lygis konkrečiai reiškia jūsų organizacijos pareigoms, aprašyta puslapyje ką aukštas rizikos lygis reiškia jūsų organizacijos reikalavimams. Ir čia galioja: priskyrimas išplaukia iš naudojimo, ne iš intencijos, su kuria modelis kadaise buvo sukurtas.

Tai tiesiogiai susiję su šešėlinės AI esme. Pritaikymas, kuris nevyksta per IT skyrių — komanda, kuri pati papildomai apmoko modelį savo duomenų rinkiniu, arba padalinys, kuris susieja išorinį modelį su vidinėmis sistemomis apie tai nepranešus — pakeičia jūsų organizacijos priskyrimą valdybai to nežinant. IT sąraše šis pritaikymas nesirodo. Kas norės sužinoti, ar tai vyksta, turės pasiteirauti komandų, kurios su tuo dirba kasdien, ir toks pokalbis duos rezultatų tik jei jis vyks nebaudžiant.

Kas praktiškai pasikeičia

Kai pritaikymas pakeičia taikymo vaidmenį arba rizikos lygį, keletas dalykų pasikeičia vienu metu: dokumentacija, kurią reikia tvarkyti, klausimas, kas organizacijoje yra tos srities savininkas, ir momentas, kada kažką dar galima planuoti, o kada tai jau reikalauja dėmesio. Šis skirtumas — tarp to, kas jau dabar yra skubu, ir to, kas gali būti planuojama — susijęs su veiksniais, kurie aptariami puslapyje kas jau dabar reikalauja dėmesio ir kas gali būti planuojama. Išsamesnis paties priskyrimo klausimo išaiškinimas, įskaitant ribinius atvejus, kurie praktikoje pasitaiko dažniausiai, yra puslapyje visas paaiškinimas apie tai, kas pasikeičia pritaikant modelį.

Pritaikytas modelis praktikoje dažnai yra ir modelis, kuris perima dalį darbo iš žmonių, kurie anksčiau atliko užduotį visiškai patys. Ar tai taip, ir kiek darbo tai apima, yra klausimas, atskiras nuo priskyrimo klausimo, bet dažnai jį lydintis: kai tik tampa aišku, kad modelis buvo pritaikytas ir kam jis naudojamas, tampa matoma ir tai, kokią dalį užduoties jis faktiškai atlieka. FTE TO AI darbo skenavimas (werkscan) tai apskaičiuoja pagal kiekvieną užduotį ir parodo, kokią darbo dalį gali perimti AI, nepriklausomai nuo to, kaip atsirado pagrindinis modelis.