Jautājums, vai AI lietojums jūsu organizācijā tiek uzskatīts par augsta riska lietojumu, nav jautājums, uz kuru atbildat vienreiz un tad atzīmējat kā izpildītu. Tas ir rezultāts vairāku faktoru kopuma, kas kopā nosaka, cik smagi lietojums sver. Ja kāds no šiem faktoriem mainās, iespējams, mainās arī klasifikācija. Tas padara riska klasifikāciju mazāk par vienreizējas aizpildīšanas jautājumu un vairāk par pastāvīgas uzraudzības jautājumu.
Šajā lapā ir aprakstīts mehānisms, kas stāv šīs klasifikācijas pamatā: no kā tā ir atkarīga un kas notiek, ja situācija maina. Aktuālās juridiskās definīcijas un slieksni ir aprakstīti citur; šeit runa ir par to, ko jums pašiem organizācijā jāspēj redzēt un pierādīt.
Vairāki faktori strukturāli ietekmē jautājumu, vai lietojums sver smagi.
Pirmais ir joma, kurā lietojums tiek izmantots. Dažas jomas — piemēram, lēmumi par cilvēkiem, viņu iespējām vai tiesībām — sver smagāk nekā lietojumi, kas ir tikai iekšēji un atbalstoši. Tas, ko lietojums tieši dara šajā jomā, arī ir svarīgi: sistēma, kas konsultē, sver citādi nekā sistēma, kas automātiski pieņem lēmumus.
Otrs faktors ir loma, kādu jūsu organizācija ieņem attiecībā uz sistēmu. Vai jūs to veidojat pati, iepirkat, vai izmantojat pakalpojumu, kurā ir iestrādāts AI, bez tā, ka jūs to esat iepirkuši kā tādu? Loma, kuru pildāt — nodrošinātājs vai izmantotājs — daļēji nosaka, kādi pienākumi guļ uz jūsu pleciem un kāda daļa atbildības paliek pie piegādātāja.
Trešais faktors ir tas, kas notiek ar modeli pēc pirmās izmantošanas sākuma. Sistēma, kas tiek izmantota nemainīgā veidā, tāda, kāda tā tika piegādāta, ir cita situācija nekā sistēma, kuru jūs pielāgojat (finetune), pārkonfigurējat vai ļaujat tai mācīties no saviem datiem. Kas mainās, ja jūs paši pielāgojat modeli tāpēc ir jautājums, uz kuru jāatbild atsevišķi — pielāgošana var izraisīt sistēmas kategorijas maiņu.
Ceturtais faktors ir apjoms: cik daudz cilvēku tiek ietekmēti, ar kādu biežumu un cik atgriezeniska ir kļūda. Lietojums, ko neregulāri izmanto neliela komanda, sver citādi nekā lietojums, kas ietekmē tūkstošu klientu lēmumus katru dienu.
Šie faktori nav statiski. Lietojums, kas šodien tiek uzskatīts par ierobežota riska lietojumu, rīt var to nebūt — nevis tāpēc, ka mainījās noteikumi, bet tāpēc, ka mainījās pats lietojums. Pilotprojekts, kas paplašinās uz visu organizāciju, iekšējs palīglīdzeklis, kas sāk skart klientu procesu, modelis, kas tiek papildus apmācīts ar jauniem datiem: katrs no šiem soļiem var izraisīt klasifikācijas maiņu.
Tas nozīmē, ka klasifikācija nav vienreizējs uzdevums. Tas ir jautājums, uz kuru jāatbild atkal un atkal, tiklīdz mainās kaut kas par to, ko sistēma dara, ko tā ietekmē vai kas to pārvalda. Pārvaldības struktūra, kas šim līdzi neseko, atpaliek no reālās situācijas.
Ne katram AI lietojumam ir jāizgāj šis pilnais process. Daļa no tā, kas darbojas organizācijā, atrodas ārpus riska klasifikācijas darbības jomas — piemēram, tāpēc, ka tas neietekmē lēmumus par cilvēkiem vai tāpēc, ka tam ir tikai atbalstoša, nevis noteicoša funkcija. Kur precīzi ir šī robeža un kādi lietojumi neietilpst darbības jomā, ir atkarīgs no tiem pašiem faktoriem, kas aprakstīti iepriekš: joma, loma, pielāgošana un apjoms. Tas tātad nav atsevišķs saraksts, bet tā pati novērtēšana no otras puses.
Klasifikācija pati par sevi nekas nemaina. Tā tikai nosaka, kuri turpmākie soļi ir aktuāli un ar kādu steidzamību. Dažas darbības ir nepieciešamas nekavējoties, citas var ieplānot — un kas jādara tagad un ko var ieplānot atkal ir saistīts ar to, cik smagi lietojums sver un cik daudz cilvēku tas ietekmē.
Lai šie soļi būtu redzami un pārbaudāmi, lēmumi par klasifikāciju un turpmākajām darbībām jāfiksē kaut kur — nevis kā atsevišķas piezīmes, bet kā daļa no uzraudzības lēmumu saraksta, kas parāda, kurš ko nolēma un uz kādas informācijas pamata. Bez šīs fiksācijas klasifikācija ir momentuzņēmums, ko vairs neviens nevar rekonstruēt.
Uz šo klasifikācijas jautājumu var pareizi atbildēt tikai tad, ja ir zināms, kas faktiski darbojas. IT saraksts ar apstiprinātiem rīkiem tam nav pietiekams: liela daļa lietojuma rodas ārpus šī saraksta, komandās, kas sākušas izmantot kādu rīku, to nekur nepaziņojot. Kas vēlas iegūt pārskatu par šo lietojumu, tam jājautā — un tas jādara, nesaistot ar sekām, citādi atbilde nenāks.
Tiklīdz ir skaidrs, kādi lietojumi ir un cik smagi tie sver, rodas turpmāks jautājums, kas vairs nav par risku, bet par darbu: kādu daļu no uzdevuma AI sistēma var pārņemt un kāda daļa paliek cilvēku darbs. Uz šo jautājumu atbild FTE TO AI darba skenēšana (werkscan), kas katram uzdevumam aprēķina, kādu daļu darba var pārņemt — cits skatpunkts nekā riska klasifikācija, bet tāds, kas balstās uz to pašu inventarizāciju.
Šajā lapā ir aprakstīts mehānisms, kas stāv klasifikācijas pamatā. Responsible AI Scan pati par sevi ir izstrādes stadijā; kas vēlas izmantot tās rezultātus, tiklīdz tie būs pieejami, var pieteikties gaidīšanas sarakstā.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.