Kennisbank

Monitorings, kas darbojas, ir monitorings, kas iekļaujas tajā, kas jau pastāv

Daudzi AI izmantošanas monitoringa procesi tiek izveidoti kā atsevišķa iniciatīva: jauna forma, jauna sanāksme, jauns informācijas panelis. Ieviešanas brīdī tas izskatās pilnīgi. Gadu vēlāk tas ir izplēnējis. Ne tāpēc, ka saturs bija slikts, bet tāpēc, ka tas pastāvēja līdzās esošajai struktūrai, nevis tās iekšienē.

Jautājums tātad nav tikai par to, kas būtu monitorējams, bet par to, kur šis monitorings nonāk. Process, ko nevienam nav vajadzības atcerēties, jo tas jau ir daļa no rutīnas, kas jau tā notiek, izdzīvo. Process, kas prasa papildu soli no cilvēkiem, kuriem jau ir pilnas rokas darba, ar laiku tiek izlaists. Tā nav negribēšana. Tas ir paredzams rezultāts tam, kā organizācijas rīkojas ar laiku un uzmanību.

Kāpēc otrs process zaudē

Katrai organizācijai jau ir savs ritms: ceturkšņa pārskati, riska komitejas, audita cikli, komandas sanāksmes. Ja AI izmantošanas monitorings ievieš jaunu ritmu, tas konkurē ar visu, kas jau pastāv — un parasti zaudē. Tam nav sava darba kārtības punkta, nav īpašnieka, kurš to uzskata par sava amata galveno daļu, nav mirkļa, kad tas pats no sevis nāk sarunā.

Turpretim, ja monitorings kļūst par jautājumu, kas jau tiek uzdots — esošajā riska komitejā, esošajā iekšējās kontroles procesā, esošajā pārskatu sniegšanas līnijā uz valdi — tad nevienam nav vajadzības atcerēties ko jaunu. Jautājums "kādi AI risinājumi ir pievienoti vai mainīti" tad kļūst tikpat pašsaprotams kā "vai ir jauni piegādātāji" vai "vai ir bijuši incidenti". Kā precīzi šī iekļaušana notiek, ir atkarīgs no tā, kā jums jau ir izveidota iekļaušana esošajā riska struktūrā — šī struktūra ir pieskares punkts, nevis kaut kas tai blakus.

Kam jāatrodas dokumentā

Darbojošais monitoringa dokuments ir pietiekami īss, lai to varētu izmantot atkārtoti, un pietiekami konkrēts, lai tajā varētu ziņot par kādām izmaiņām. Tajā ir vismaz:

• Aktuāls AI risinājumu sarakstu, tostarp tas, kas pieteikts caur IT, un tas, kas tiek izmantots ārpus tā. Otrā kategorija bieži ir vislielākā, un tā izpaliek no jebkura dokumenta, kas paļaujas vien uz formālu apstiprinājumu.
• Riska klasifikāciju katram risinājumam, lai ne katra izmaiņa pieprasa vienādu uzmanību. Teksta ģenerators iekšējām piezīmēm prasa kaut ko citu nekā modelis, kas piedalās lēmumu pieņemšanā par klientu akceptēšanu.
• Īpašnieku katram risinājumam, konkrētu personu, nevis nodaļu. Bez īpašnieka izmaiņas nekur netiek pamanītas.
• Fiksētu intervālu, kad sarakstu pārskata, saistītu ar mirkli, kas jau pastāv — nevis jaunu mirkli, ko vajadzētu īpaši plānot.
• Vietu, kur atkāpes kļūst redzamas, lai jauns pielietojums vai izmainīta izmantošana neatklātos tikai pēc mēnešiem.

Dokumenta vērtība nav pilnībā pirmajā dienā. Tas reti ir sasniedzams, un arī nav nepieciešams. Vērtība ir tajā, ka to uztur, un ka uzturēšana neprasa atsevišķu piepūli papildus tam, kas jau notiek.

Kāpēc atbildība par sekām aptur informāciju

Monitorings ir atkarīgs no tā, ko cilvēki ir gatavi ziņot. Tiklīdz ziņošana kļūst līdzvērtīga riskam, ka par kaut ko tiks sodīts, informācija apstājas. Kāds, kurš uzdevumu ar AI rīku izpilda ātrāk nekā gaidīts, to nepaziņo, ja rezultāts būtu budžeta samazināšana vai neveikla saruna. Sarakstas paliek formāli pilns un satura ziņā tukšs — precīzi tā problēma, kas uztur ēnu-AI.

Sekas ir tādas, ka monitorings darbojas tikai tad, ja jautājumi tiek uzdoti bez sodīšanas. Ne tāpēc, ka izmantošanai nevajadzētu paredzēt sekas, bet tāpēc, ka pirmais solis — zināt, kas notiek — prasa citu attieksmi nekā otrais solis — novērtēt, vai tas ir piemēroti. Kas šos divus soļus sapludina, nesaņem godīgu atbildi ne uz vienu no tiem.

Šī atšķirība ir arī tā, kur pārvaldība (governance) un pārskatatbildība saskaras. Redzamībai valdes līmenī nav jānozīmē, ka katrs atsevišķs risinājums nonāk galda uz, tas attiecas uz tādu pārskatu sniegšanas līmeni, kas ļauj izdarīt spriedumu, neiegrimstot detaļās, kā aprakstīts pie valdes pārskata, kas ietilpst vienā lappusē. Tas, kas atrodas zemāk — konkrētu risinājumu lēmumu fiksācija — pieder drīzāk pie uzraudzības lēmumu sarakstu, nevis pie dokumenta, kas nonāk augšā.

Vai politikas dokumentu kā tādu kāds lasa, ir līdzīgs jautājums: teksts, ko neviens neizmanto, nesniedz nekādu atbalstu, tāpat kā monitoringa process, ko neviens neaizpilda. Skatīt par to AI politiku, kuru lasa. Un tiem, kas vēlas zināt, kāda daļa no šīs atbildības atrodas valdes galdā, un kāda — IT pārvaldībā, pastāv atšķirība starp to, ko valdes loceklim jāzina par AI risku un to, ko CIO jāzina par AI risku — abi jautājumi prasa citu detalizācijas pakāpi vienā un tajā pašā monitoringa procesā.

No zināšanas, kas darbojas, uz zināšanu, ko tas sniedz

Monitoringa struktūra, kas iekļaujas tajā, kas jau pastāv, laika gaitā sniedz uzticamu priekšstatu par tām AI izmantošanas jomām, kas tiek lietotas, un par to, kādiem nolūkiem. Šī inventarizācija ir atšķirīgs jautājums no tā, cik daudz no pamatā esošā darba faktiski veic AI un ar kādu efektu. Kas vēlas to izrēķinātu katram uzdevumam — kādu daļu no funkcijas vai procesa var nodot AI, pamatojoties uz uzdevumiem tā, kā tie tiek veikti šobrīd — to atradīs FTE TO AI darba skenēšanā (werkscan).