Kennisbank

Kad mainās jūsu loma un no kā tas ir atkarīgs

Daudzas organizācijas pieņem, ka viņu loma ir fiksēta: tās ir sistēmas lietotājs, kuru izveidojis piegādātājs, un ar to saistītie pienākumi ir skaidri un nemainīgi. Šis pieņēmums bieži ir pareizs, bet ne vienmēr. Loma, kāda organizācijai ir attiecībā uz AI sistēmu, nav fiksēta etiķete. Tā ir rezultāts tam, kas faktiski notiek ar sistēmu, un šis rezultāts var mainīties, bez tam, ka tiek parakstīts jauns līgums vai veikts jauns pirkums.

No kā atkarīga klasifikācija

Lomas klasifikācija ir atkarīga no vairākiem faktiskiem elementiem, nevis no tā, kā piegādātājs nosauc sistēmu vai kā to iekšēji pozicionē kāda nodaļa. Būtiski ir, kurš sistēmu ir laidis tirgū, kurš sistēmu faktiski izmanto savā procesā, un kurš sistēmu ir pielāgojis pēc tās nodošanas. Nozīme ir arī tam, ar kādu nosaukumu sistēma tiek izplatīta ārpusē, un vai organizācija sistēmu tālāk piegādā citiem, pati to neizmantojot. Šie elementi kopā nosaka, vai organizācija darbojas kā nodrošinātājs, kā lietotājs, vai kā puse, kas ietilpst kaut kur pa vidu.

Iemesls, kāpēc tas ir būtisks pārvaldībai, ir tāds, ka loma nosaka, kādi pienākumi gulstas uz kuru pusi. Organizācijai, kas ir vienīgi lietotājs, ir citi pienākumi nekā organizācijai, kas faktiski rīkojas kā nodrošinātājs. Kas tieši tiek prasīts no katras lomas, ir aprakstīts citur; šeit runa ir par mehānismu, kas nosaka, kura loma ir piemērojama, un par to, kā pamanīt brīdi, kad šis mehānisms sniedz citu rezultātu nekā iepriekš.

Kas mainās, kad mainās situācija

Loma nav piesaistīta sistēmai visā tās kalpošanas laikā. Tā ir piesaistīta tam, kas faktiski notiek konkrētā brīdī. Tas nozīmē, ka viena un tā pati organizācija attiecībā uz vienu un to pašu sistēmu divos brīžos var ietilpt dažādās lomās. Vairākas situācijas, kurās tas notiek: komanda, kas veic iepirktā modeļa precizēšanu (finetuning) uz savu datu bāzes; nodaļa, kas sistēmu pārnosauc un piedāvā citām nodaļām ar savu nosaukumu; vai organizācija, kas sistēmu, kas sākotnēji bija paredzēta iekšējai lietošanai, tālāk piegādā klientam vai partnerim. Visos šajos gadījumos faktiskā loma maina, pat ja no ārpuses mainās maz.

Tas, kas praksē mainās, nav abstrakts jēdziens. Tas nosaka, kurš ir atbildīgs par dokumentāciju, kuram jāpierāda, ka sistēma dara to, ko tā apgalvo, un kuram jāreaģē, ja kaut kas noiet greizi. Vairāk par to, kas tieši mainās, kad modelis tiek pielāgots, ir aprakstīts lapā par modeļa pielāgošanu. Šī pāreja ir viens no skaidrākajiem piemēriem tam, kā loma mainās, bez tam, ka tam sekotu apzināts lēmums.

Kāpēc tas ir būtisks pārvaldībai

Iemesls, kāpēc šis jautājums ir nozīmīgs ne tikai juridiski, bet arī organizatoriski, ir tāds, ka lomas maiņa bieži paliek nepamanīta. Komanda, kas pielāgo modeli, domā par tehnisku uzlabojumu, nevis par pārmaiņām atbildībā. Nodaļa, kas nodod rīku citai nodaļai, domā par ērtību, nevis par jaunu lomu kā nodrošinātājam. Pārvaldība, kas skatās vienīgi uz to, kas ir iepirkts, sistemātiski nepamana šīs pārmaiņas.

Tas ir saistīts ar jautājumu, kuras lietojumprogrammas tieši ietilpst regulējuma tvērumā un kuras nē; šī robeža ir aplūkota lapā par lietojumprogrammu tvērumu. Sistēma, kas neietilpa tvērumā tās iepirkšanas brīdī, var nonākt tvērumā, tiklīdz mainās organizācijas loma. Tas nozīmē, ka nepietiek ar vienreizēju pārbaudi pirkuma brīdī; pārbaudei jāseko tam, kas faktiski notiek ar sistēmu.

Arī lietojumprogrammas riska līmenis var mainīties līdz ar lomas maiņu. Kas tieši augsts riska līmenis nozīmē organizācijas pienākumiem un no kā tas ir atkarīgs, ir izklāstīts lapā par augsta riska līmeņa sekām. Organizācijai, kas lomas maiņas dēļ pēkšņi kļūst par nodrošinātāju sistēmai ar augstu riska līmeni, ir citi pienākumi nekā tad, kad tā bija vienīgi tās pašas sistēmas lietotāja.

Kā organizācija to pamana

Lai pamanītu lomas maiņas, pirms tās pārtop problēmā, organizācijai jāzina, kādas sistēmas tai ir, kurš tās pielāgo un kurš tās nodod citiem. Tas prasa inventarizāciju, kas sniedzas tālāk par IT apstiprināto sarakstu, un pastāvīgu vietu, kur tiek fiksēti lēmumi par pielāgošanu, tālāknodošanu un pārnosaukšanu. Šāda pastāvīga vieta un ar to saistītie jautājumi ir aprakstīti lapā par pārraudzības lēmumu žurnālu.

Responsible AI Scan ir izveidots, lai padarītu šīs pārmaiņas redzamas: kādas sistēmas faktiski darbojas, kurš tās izmanto, kurš tās ir pielāgojis, un kāda loma no tā izriet šobrīd. Rīks, kas to atbalsta, tiek veidots; tie, kas vēlas to izmantot, var pieteikties gaidīšanas sarakstā.

Lomas maiņa neietekmē vienīgi pārvaldību. Ja sistēma pāriet no atsevišķa palīglīdzekļa uz kaut ko, kas strukturāli pārņem daļu no uzdevuma, mainās arī jautājums, cik daudz darba šī sistēma patiesībā veic un cik daudz paliek pie cilvēkiem. FTE TO AI darba skenēšana (werkscan) katram uzdevumam aprēķina, cik lielu darba daļu var pārņemt AI, un tādējādi padara redzamu, kur lomas maiņa pārvaldībā sakrīt ar faktisku pārmaiņu darba sadalē.