Kada modelio pritaikymas tampa jūsų pačių atsakomybe?

Modelis, kurį įsigyjate ir naudojate nepakeistą, yra kitokia situacija nei modelis, kurį pritaikote (finetuning), pertreniruojate su nuosavais duomenimis arba sujungiate su kitomis sistemomis. Su tuo susijęs klausimas nėra, ar tai leidžiama, o kas dėl to pasikeičia jūsų vaidmenyje. Šiame puslapyje aprašoma, nuo ko priklauso tas skirstymas. Aktualus reglamentavimo turinys pateiktas kitur; čia kalbama apie mechanizmą, kuris nustato, kada kažkas pasikeičia ir ką su tuo turite daryti organizacijos viduje.

Nuo ko priklauso skirstymas

Ar modelio pritaikymas pakeičia jūsų vaidmenį, priklauso nuo kelių veiksnių, kuriuos turite nustatyti pagal konkrečią situaciją, o ne nuo fiksuotos ribos, vienodos visiems modeliams.

Pritaikymo pobūdis. Modelis, kurį tik pasiekiate per sąsają, yra kas kita nei modelis, kurio svorius keičiate, kurį pritaikote (finetuning) su nuosavais duomenimis arba kurį sujungiate su kitais modeliais ar duomenų šaltiniais.
Ką pritaikymas daro su rizika. Pritaikymas, kuris pakeičia modelio tikslą, praplečia tikslinę auditoriją arba nukelia rezultatą į kitą sritį, vertinamas kitaip nei pritaikymas, kuris tik pakoreguoja kalbą ar stilių.
Kas atlieka pritaikymą ir kodėl. Vidinis pritaikymas (finetuning) konkrečiam procesui yra kitokia situacija nei pritaikymas, kuris paruošia sistemą siūlyti tretiesiems asmenims.
Ar pagrindinis modelis jau turėjo vaidmenį ir rizikos lygį. Sistemos, kuri jau priskirta didelės rizikos kategorijai, pritaikymas vertinamas kitaip nei sistemos, kuriai tokia kvalifikacija nesuteikta, pritaikymas.

Šie veiksniai veikia kartu. Nė vienas iš šių punktų savaime nėra lemiamas; kombinacija nustato, ar pritaikymas pakeičia jūsų padėtį.

Kas pasikeičia, kai situacija pasikeičia

Jei pritaikymas yra pakankamai reikšmingas, dažniausiai pasikeičia ne tik modelio kvalifikacija, bet ir tai, kas tikimasi iš organizacijos: kitokia dokumentacija, kitokia vidinė atsakomybė, galbūt kita šalis, atsakinga už visumą. Šis mechanizmas, ir skirtumas tarp šalies, kuri modelį tik naudoja, ir šalies, kuri modelį taip pat formuoja, išsamiai aprašytas puslapyje, kuriame aprašomas skirtumas tarp tiekėjo ir naudotojo. Klausimas, kada tiksliai pritaikymas yra pakankamai reikšmingas, kad pakeistų šį vaidmenį, turi būti atsakytas atskirai kiekvienai sistemai; bendrasis mechanizmas šiuo klausimu aprašytas puslapyje apie momentą, kai jūsų vaidmuo pasikeičia.

Šio pokyčio pasekmės savo ruožtu priklauso nuo rizikos lygio, kurį įgauna pritaikytas modelis. Pritaikytas modelis, kuris patenka į didelės rizikos kategoriją, sukelia kitokias pareigas nei pritaikytas modelis, kuris joje neatsiduria. Ką didelis rizikos lygis praktiškai reiškia vidiniams procesams ir priežiūrai, aprašyta puslapyje apie didelio rizikos lygio pasekmes jūsų organizacijai. Ir atvirkščiai, taip pat gali būti, kad pritaikymas išlaiko sistemą už sunkiausios kategorijos ribų, arba kad taikymo sritis tiesiog nepatenka į reglamentavimo taikymo sritį; kokios taikymo sritys nepatenka į taikymo sritį ir kodėl, aprašyta puslapyje apie taikymo sritis, kurios nepatenka į taikymo sritį.

Kodėl tai retai matoma vienoje vietoje

Modelių pritaikymai dažnai vyksta arti pačio darbo: komanda pritaiko (finetuning) išorinį modelį su nuosavais dokumentais, kūrėjas sujungia dvi sistemas, padalinys aprūpina pokalbių robotą vidinėmis žinių bazėmis. Tai tiksliai tokie pritaikymai, kurie nevyksta per centralizuotą pirkimo procesą ir todėl automatiškai nepatenka į IT sąrašą. Kas norite žinoti, ar ir kur tai vyksta organizacijoje, turite paklausti — o tai veikia tik tuo atveju, jei klausimas nesusijęs su nuobauda. Komanda, kuri pritaikė modelį neprašydama tam leidimo, apie tai nepraneš, jei atsakymas sukels sankciją.

Ką tai reiškia politikai ir priežiūrai

Kadangi pritaikymų skirstymas nėra fiksuotas, o nustatomas pagal konkrečią situaciją, neužtenka vieną kartą nustatyti, koks vaidmuo priskirtas modeliui. Pritaikymai, kurie vyksta po pirminio įvertinimo, turi būti iš naujo įvertinami pagal tuos pačius klausimus. Politika, kuri tai palaiko, turi paprasta kalba aprašyti, kada pritaikymas turi būti pranešamas ir kam; kaip tokia politika išlieka aiškiai skaitoma, o ne teksta, kurio niekas nesikreipia, aprašyta puslapyje apie AI politiką, kuri tikrai skaitoma. Be to, svarbu, kad sprendimai dėl pritaikymų — kas davė sutikimą, remiantis kokiu vertinimu, su kokiu rizikos lygiu kaip rezultatu — būtų užfiksuoti vietoje, kur juos galima rasti. Kaip toks fiksavimas atrodo praktikoje, aprašyta puslapyje apie priežiūros sprendimų sąrašą.

Kitas klausimas