Jautājums, vai AI risinājums tiek uzskatīts par augsta riska risinājumu, izklausās pēc tehniskas kvalifikācijas. Praksē tā ir klasifikācija, kas ir atkarīga no vairākiem konkrētiem faktoriem, un šī klasifikācija savukārt nosaka, cik daudz uzraudzības, dokumentācijas un pierādāmības no jums tiek gaidīts. Aktuālās juridiskās definīcijas un robežvērtības šajā lapā nav aprakstītas; tās atrodamas citur. Šeit mēs paskaidrojam, no kā ir atkarīga klasifikācija un kas mainās jūsu organizācijā, ja šī klasifikācija tiek grozīta.
Nav vienas iezīmes, kas padara risinājumu par augsta riska risinājumu. Tā ir faktoru kombinācija, kas kopā veido kopskatu: domēns, kurā risinājums tiek izmantots, apjoms, kādā lēmums tieši ietekmē konkrētu personu, un jautājums, vai ir cilvēks, kas faktiski var novērtēt AI ieteikumu vai iznākumu un, ja nepieciešams, koriģēt to, pirms tam ir sekas. Risinājums, kas tikai apkopo tekstu, parasti šajā klasifikācijā ietilpst citādi nekā risinājums, kas tiek iekļauts lēmumā par konkrētu personu. Arī konteksts, kādā risinājums tiek izmantots, ir svarīgs: viena un tā pati pamattehnoloģija vienā domēnā var tikt uzskatīta par zema riska, bet citā — par augsta riska risinājumu, atkarībā no tā, kas notiek ar iznākumu.
Tas ir viens no iemesliem, kāpēc apstiprinātas programmatūras sarakts nav pietiekams. Klasifikācija nav atkarīga no etiketes uz pakotnes, bet no tā, kā tas faktiski tiek izmantots un kur tas atrodas lēmumu pieņemšanas procesā.
Ja risinājums tiek novērtēts kā augstāka riska risinājums, mainās tas, ko no organizācijas gaida: vairāk dokumentācijas par to, kā risinājums darbojas un ir testēts, skaidrāks uzraudzības mehānisms attiecībā uz iznākumiem, un veids, kā vēlāk parādīt, kas uz ko ir pievērsis uzmanību. Tā nav vienreizēja darbība, bet gan pastāvīgs pienākums: dokumentācijai un uzraudzībai jāpaliek aktuālai, kamēr risinājums ir izmantošanā.
Klasifikācija arī nav statiska. Risinājums, kas šodien tiek uzskatīts par ierobežota riska risinājumu, rīt var tikt izmantots citādi — citā domēnā, ar lielāku ietekmi uz personām vai ar mazāku cilvēka iesaisti nekā iepriekš. Kas klasifikāciju nosaka vienreiz un pēc tam vairs nepārskata, riskē, ka klasifikācija vairs neatbilst faktiskajam lietojumam. Tas tikpat lielā mērā attiecas uz risinājumiem, kas tiek pielāgoti pēc iegādes; kas precīzi mainās, ja pati modeli pielāgojat, ir atkarīgs no šī pielāgojuma veida, kā aprakstīts lapā par modeļa pielāgojumiem.
Risinājuma klasifikācija ir jēgpilna vienīgi tad, ja tā tiek piemērota tam, kas faktiski tiek izmantots. Liela daļa lietojuma organizācijā notiek ārpus oficiālās inventarizācijas: komandas, kas izmanto valodas modeli e-pasta melnraksta sagatavošanai, analītiķis, kas izmanto ārēju modeli pārskata pirmās versijas izveidei, nodaļa, kas iegādājusies rīku, nepaziņojot par to. Šāds lietojums nerodas no nevēlēšanās. Tas rodas, jo oficiālais ceļš ir lēnāks par vajadzību, vai jo neviens nezināja, ka pastāv ceļš, kas jāievēro.
Sekas ir tādas, ka IT sarakts reti sniedz pilnu kopskatu. Kas vēlas zināt, kas patiesībā ir nepieciešams riska klasifikācijai, tam pašam ir jāapzina lietojums — un tas nozīmē jautājumu uzdošanu tiem, kas veic darbu, nesekojot tam ar sekām. Kas jau pirmajā sarunā sajūt, ka patiess atbilde radīs sekas, neatbild patiesi. Tas padara inventarizāciju nelietojamu, pirms tā ir pabeigta.
Ne katrs AI lietojums ietilpst ietvarā, kurā riska klasifikācija ir relevanta. Daži risinājumi savas dabas vai mērķa dēļ neietilpst regulējuma piemērošanas jomā, un ir prātīgi šo atšķirību noteikt agri, pirms tiek tērēts laiks klasifikācijai, kas nav nepieciešama; kuri risinājumi tas attiecas, aprakstīts lapā par risinājumiem, kas neietilpst pienākumu piemērošanas jomā. Arī loma, kādu jūsu organizācija spēlē — kā sistēmas nodrošinātājs vai kā tās lietotājs — ietekmē, kādi pienākumi ir saistīti ar riska klasifikāciju, un šī loma ne vienmēr ir skaidra iepriekš; kas šeit ir izšķirošais, lasāms lapā par nošķīrumu starp nodrošinātāju un lietotāju. Šī pati loma turklāt var mainīties, tiklīdz jūs pielāgojat sistēmu vai piedāvājat to ar savu nosaukumu, kas tuvāk izklāstīts lapā par apstākļiem, kādos jūsu loma mainās.
Klasifikācija pēc riska līmeņa praktiski vienmēr rada sekojošu jautājumu — kas no tā ir steidzams un ko var ieplānot vēlāk. Šī atšķirība nav vienāda katrai organizācijai un ir atkarīga no tā, kuri risinājumi jau ir ražošanā un kuri vēl ir izstrādes stadijā. Pārskats par to, kam parasti nepieciešama uzmanība vispirms un kas var sekot vēlāk, atrodams lapā par to, kas jāveic tagad un ko var ieplānot.
Kad ir noskaidrots, kuri risinājumi jūsu organizācijā tiek uzskatīti par augsta riska risinājumiem, dabiski rodas cits jautājums: cik lielu daļu no pamatā esošā darba faktiski veic AI un cik daudz cilvēki, kas iznākumu pārbauda vai papildina. Šis jautājums ir ārpus šī skanera darbības jomas, bet uz to atbild FTE TO AI darba skaneris, kas katrai uzdevumam aprēķina, kādu darba daļu ir pamatoti var pārņemt AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.