Kennisbank

Kas mainās, ja pats pielāgojat modeli?

AI sistēmas iepirkšana un tās izmantošana tā, kā tā tiek piegādāta, ir cita situācija nekā modeļa pielāgošana saviem datiem vai mērķim. Šāda pielāgošana var mainīt jūsu organizācijas klasifikāciju — un līdz ar to jautājumus, uz kuriem jums jāspēj atbildēt. Vai tas notiek un cik smagi tas sver, ir atkarīgs no tā, kas tieši tiek pielāgots un kam sistēma tiek izmantota.

No kā ir atkarīga klasifikācija

Klasifikācija nav atkarīga no jautājuma, vai jūs pats esat rakstījis pirmkodu. Tā ir atkarīga no tā, kas faktiski notiek ar modeli pēc tam, kad tas nonāk pie jums. Daži faktori, kas šeit ir svarīgi:

• Pielāgošanas raksturs. Sistēmas izmantošana tā, kā tā piegādāta, ir kas cits nekā tās papildu apmācīšana (finetuning) uz saviem datiem, savienošana ar saviem datu avotiem, vai izmantošana mērķim, kādu sākotnējais piegādātājs nav paredzējis.
• Kas veic izmaiņas. Iekšējs datu speciālists, kas papildus apmāca modeli, ir cita situācija nekā piegādātājs, kas pēc pieprasījuma piegādā variantu.
• Ietekme uz risku. Pielāgošana, kas būtiski maina sistēmas uzvedību, sver citādi nekā pielāgošana, kas skar tikai saskarni vai izvades formu.
• Lietojums, kurā modelis tiek izmantots. Viena un tā pati pielāgošana vienā lietojumā var maz ietekmēt situāciju, bet citā lietojumā mainīt jūsu organizācijas lomu. Kuri lietojumi šajā ziņā ir jāieskaita un kuri nav, ir jautājums, kam nepieciešama atsevišķa atbilde — skatiet kuri lietojumi ir izslēgti no pārvaldības prasību piemērošanas jomas.

Šie faktori darbojas kopā. Nav fiksētas robežvērtības, kas attiektos uz visiem gadījumiem; aktuālais regulējums ar precīziem kritērijiem ir noteikts citur, un šis teksts var mainīties. Kas paliek nemainīgs šajā lapā, ir mehānisms: pielāgošana var mainīt lomu, un loma nosaka pienākumu.

No lietotāja uz kaut ko citu

Loma, kādu jūsu organizācija uzņemas attiecībā uz AI sistēmu, nav fiksēta. Tam, kurš modeli tikai izmanto tā, kā tas piegādāts, parasti ir cita pozīcija nekā tam, kurš modeli maina un pēc tam pats to izlaiž tirgū vai iekšēji izmanto plašā mērogā. Jautājums, kad notiek šī pāreja un kas tajā brīdī mainās attiecībā uz to, ko jums jāspēj pierādīt, ir apskatīts lapā kad mainās jūsu loma un kur ir šī robeža. Organizācijām, kas nav pārliecinātas, vai tās ir nodrošinātājs vai lietotājs — jautājums, kas rodas biežāk, nekā varētu domāt, tiklīdz notiek iekšēja pielāgošana — ir pieejams atsevišķs paskaidrojums lapā atšķirība starp AI sistēmas nodrošinātāju un lietotāju.

Iemesls, kāpēc tam ir nozīme, nav formāls. Lomas maiņa maina to, kas jums jāspēj parādīt: kādu dokumentāciju jūs uzturat, kurš organizācijā ir atbildīgs par uzraudzību, un kādi soļi bija veikti, pirms pielāgotā sistēma tika nodota lietošanā. Modelis, ko jūs pats esat pielāgojis, ir modelis, par kuru jums var lūgt paskaidrot, kā šī pielāgošana tika veikta.

Ko tas nozīmē riska līmenim

Pielāgošana var ietekmēt arī lietojuma riska līmeni. Modelis, kas sākotnēji bija paredzēts vieglam lietojumam, pēc pielāgošanas var nonākt smagākā kategorijā — piemēram, ja pēc pielāgošanas to izmanto lēmumu pieņemšanai par cilvēkiem. Ko augsts riska līmenis konkrēti nozīmē jūsu organizācijas prasībām, ir aprakstīts lapā ko augsts riska līmenis nozīmē jūsu organizācijas prasībām. Arī šeit spēkā ir tas pats: klasifikācija izriet no lietojuma, ne no nodoma, ar kādu modelis kādreiz tika izveidots.

Tas ir tieši saistīts ar ēnu-AI (shadow AI) būtību. Pielāgošana, kas nenotiek caur IT — komanda, kas pati papildus apmāca modeli uz savas datu kopas, vai nodaļa, kas savieno ārēju modeli ar iekšējām sistēmām, par to neziņojot — maina jūsu organizācijas klasifikāciju, valdei par to neko nezinot. IT sarakstā šī pielāgošana nav redzama. Kas grib zināt, vai tas notiek, tam ir jāpajautā komandām, kas ar to strādā katru dienu, un šāda saruna sniedz rezultātu tikai tad, ja tā notiek bez sodīšanas.

Kas praktiski mainās

Kad pielāgošana maina lietojuma lomu vai riska līmeni, mainās vairākas lietas vienlaikus: dokumentācija, ko jāuztur, jautājums, kurš organizācijā ir šī lietojuma īpašnieks, un brīdis, kad kaut ko var vēl plānot pretstatā tam, kam jau nepieciešama uzmanība. Šī atšķirība — starp to, kas jau tagad ir steidzams, un to, ko var ieplānot — ir saistīta ar faktoriem, kas ir izklāstīti lapā kam jau tagad nepieciešama uzmanība un ko var vēl ieplānot. Plašāks pašas klasifikācijas jautājuma izklāsts, ieskaitot robežgadījumus, kas praksē sastopami visbiežāk, ir pieejams lapā pilnīgs paskaidrojums par to, kas mainās, pielāgojot modeli.

Pielāgots modelis praksē bieži ir arī modelis, kas pārņem daļu no darba, ko iepriekš cilvēki veica pilnībā pašu spēkiem. Vai tā tas ir un cik lielu daļu darba tas skar, ir jautājums, kas ir atsevišķs no klasifikācijas jautājuma, bet bieži tam sekojošs: tiklīdz ir skaidrs, ka modelis ir pielāgots un kam tas tiek izmantots, kļūst redzams arī tas, kādu daļu no uzdevuma tas faktiski veic. FTE TO AI darba skenēšana (werkscan) to aprēķina pa uzdevumiem un parāda, kādu daļu no darba var pārņemt AI, neatkarīgi no tā, kā radās pamatā esošais modelis.