Jautājums, kuri pielietojumi atrodas ārpus tvēruma, izklausās kā lūgums pēc saraksta. Tas tā nav. Vai kāds pielietojums atrodas tvērumā vai ārpus tā, ir iedalījums, kas ir atkarīgs no tā, ko pielietojums dara, kādā kontekstā un kam tas skar. Viena un tā pati tehnoloģija vienā pielietojumā var palikt nepamanīta, bet citā nonākt pilnas uzmanības centrā. Tāpēc fiksēts izslēgto pielietojumu sarakts nepastāv — pastāv vairāki faktori, kas nosaka iedalījumu.
Pirmais faktors ir pielietojuma funkcija: ko sistēma izlemj vai ko tā iesaka, un kam tam ir sekas. Rīks, kas pārrakstīt iekšēju tekstu, atšķiras no rīka, kas piedalās lēmuma pieņemšanā par pieteikumu, darba pretendentu vai prasību. Otrais faktors ir riska līmenis, kas ir saistīts ar šo funkciju: jo lielākas sekas tas rada cilvēkiem, jo drīzāk pielietojums pārvietojas uz spektra smagāko daļu. Trešais faktors ir organizācijas pašas loma: kas sistēmu tikai izmanto, tiek vērtēts atšķirīgi no tā, kas to pielāgo, papildus apmāca vai veido no citu komponentēm. Kas šis lomu sadalījums precīzi ietver un kad tas mainās, ir aprakstīts lapās par atšķirību starp AI sistēmas nodrošinātāju un lietotāju un par brīdi, kad lietotāja loma pāriet citā atbildībā.
Ceturtais faktors ir tehnisks pēc būtības, bet juridiski būtisks: tas, ko organizācija pati izmaina esošā modelī, dažkārt izmaina šīs organizācijas pozīciju kopējā ainā. Modelis, kas iepirkts nemainītā veidā, ainā ietilpst savādāk nekā modelis, kas ir precīzi pielāgots (finetuned) uz pašas datiem vai iestrādāts savā procesā. Šī robeža — kad pielāgošana rada lomas maiņu — ir aplūkota lapā par to, kas mainās, kad modelis tiek pats pielāgots, no kā tas ir atkarīgs.
Tā kā iedalījums ir atkarīgs no šiem faktoriem, tvērums nav rīka pastāvīga īpašība, bet gan rezultāts, kas var mainīties. Tērzēšanas robots, kas sākās kā iekšējs rakstīšanas palīgs, tiklīdz tas sāk atbildēt arī uz klientu jautājumiem, kas noved pie lēmuma, var nonākt citā spektra daļā. Modelis, kas bija iepirkts kā gatavs produkts, pēc pielāgošanas pašas datiem var radīt citu lomu organizācijai. Pielietojums, kas šodien tiek uzskatīts par mazu risku, rīt var izrādīties smagāks, jo ir mainījies konteksts, kurā tas tiek izmantots — cita komanda, citāds lēmums, cita cilvēku grupa, kuru rezultāts skar.
Tieši tāpēc vienreizējs iedalījums nav pietiekams. Klasifikācija, kas fiksēta ieviešanas brīdī, neko neizsaka par to, ko rīks dara gadu vēlāk. Kas šodien jāiekļauj tvērumā un ko var plānot vēlākam laikam, tāpēc pats ir jautājums, kas ir atkarīgs no aktuālās situācijas — izklāstīts lapā par secību starp to, kam nepieciešama uzmanība tagad, un to, kas var sekot vēlāk.
Iedalījumu tvērumā un ārpus tā sarežģī praktiska problēma: oficiālais iepirkto vai apstiprināto rīku sarakts nav tas pats saraksts, kas rīki, kuri faktiski tiek lietoti. Komandas sāk lietot AI funkcionalitāti, to neizlaidot caur pieprasījuma procesu — nevis nevēlēšanās dēļ, bet tāpēc, ka tas ir vieglpieejams un atrisina problēmu. Šī ēnu-AI ir tieši tā daļa, kas padara iedalījumu tvērumā vai ārpus tā neiespējamu, kamēr neviens nezina, ka pielietojums pastāv.
Kas vēlas šo ainu papildināt, tam jājautā — un tad tā, lai jautājums neizklausītos kā slēpts pārmetums. Tiklīdz darbinieks nojauš, ka patiess atbilde novedīs pie sankcijas, atbilde netiek dota, un rīks paliek neredzams. Inventarizācija, kas veidota ar norēķina domu prātā, tāpēc pēc definīcijas rada nepilnīgu ainu — un nepilnīga aina padara katru iedalījumu tvērumā pagaidu raksturīgu.
Tā kā tvērums var mainīties, iedalījuma fiksēšana ir vismaz tikpat svarīga kā pats iedalījums. Kas nolēma, ka pielietojums atrodas ārpus tvēruma, uz kādas informācijas pamata un kurā brīdī — šādi jautājumi kļūst neatbildami, tiklīdz trūkst fiksācijas. Kā organizācija šāda veida lēmumu padara sakārtojamu un izsekojamu, ir aprakstīts lapā par lēmumu sarakstu, kas padara pārraudzības lēmumus izsekojamiem, un kā šis iedalījums atpazīstami atspoguļojas dokumentā, ko darbinieki tiešām izmanto, — lapā par AI politiku, kas atbilst tam, ko cilvēki tiešām dara.
Iedalījuma jautājums — kas atrodas tvērumā un kas nav — attiecas uz risku un atbildību, nevis uz to, ko pielietojums nozīmē pašam darbam. Šis otrais jautājums, ko konkrēts uzdevums var atstāt AI ziņā, ir cits rēķins. FTE TO AI darba skanēšana (werkscan) katram uzdevumam aprēķina, kādu darba daļu var pārņemt, neatkarīgi no jautājuma, kā šis pielietojums nonāk pārvaldības iedalījumā.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.