re-ai-gov Uz gaidīšanas sarakstu

Kennisbank

Otru riska procesu blakus esošajam ignorē

Jautājums nav, vai process rodas, bet kur tas nonāk

Katrai organizācijai ar kaut cik nozīmīgu apjomu jau ir riska struktūra. Riska komiteja, audita komiteja, kontroles funkciju līnija, formāts, kurā riski tiek reģistrēti, apspriesti un slēgti. Šim procesam ir ritms, valoda un īpašnieki, kas zina, kur viņi stāv.

Ja AI pārvaldība tiek izveidota kā papildu struktūra — sava komiteja, sava atskaišu līnija, savs kalendārs — tad rodas otrs process. Un otrs process blakus esošajam netiek izpildīts. Nav tā, ka cilvēki būtu nevēlīgi, bet tāpēc, ka kapacitāte jau ir piešķirta procesam, kas jau eksistē. Tas, kurš AI risku uzskata par atsevišķu tēmu, pieprasa papildu laiku, papildu sanāksmes un papildu atskaites blakus visam, kas jau notiek. Tas zaudē, katru reizi.

Kam jāiekļaujas struktūrā

AI sistēmu inventarizācija un klasifikācija nedod jaunu risku ietvaru. Tās dod ieguldījumu ietvarā, kas jau eksistē. Konkrēti tas nozīmē:

Pārvaldības kopums, kas izriet no skenējuma, tāpēc nav pats par sevi stāvošs dokuments. Tas ir kopums, kas rakstīts, lai iekļautos tajā, kas jau pastāv: riska matricā, atskaišu struktūrā, eskalācijas līnijās. Kur šīs lietas vēl nedarbojas tā, kā vajadzētu, piemērojama tā pati loģika, kas AI gadījumā: runa ir par iekļaušanu, nevis par jaunu sistēmu. Kā tas izpaužas kādai konkrētai sastāvdaļai, aprakstīts kā AI politika tiek iekļauta esošajā lēmumu pieņemšanā, nevis pastāv atsevišķi tai blakus, kā uzraudzības lēmumu saraksts tiek iekļauts apspriedē, kas jau notiek un kā AI eskalācijas ceļi tiek iekļauti esošajā incidentu līnijā.

Kāpēc tas dod vairāk nekā jauns ietvars

Atsevišķs AI riska ietvars izklausās rūpīgs, bet rada paralēlu ķēdi. Rodas divas patiesības: riska atskaite, ko valdes loceklis jau pazīst, un AI atskaite, kas eksistē tai blakus, ar savām riska līmeņa definīcijām un saviem īpašniekiem. Brīdī, kad šīs divas ķēdes nesaskan — un tas ātrāk vai vēlāk notiek — nav skaidrs, kurai ķēdei ir noteicošais spēks. Tas ir tieši tāds scenārijs, kurā uzraudzība eksistē uz papīra, bet praksē nav nekā, pie kā vērsties.

Pārvaldības kopums, kas izriet no inventarizācijas, tāpēc ir vērsts uz to, lai izzustu esošajā procesā. Nav jauns paneļa rīks, nav jauna sanāksme, nav jauna apstiprināšanas forma — bet ir esošā formāta papildinājums, ko riska komiteja jau izmanto, ar AI kā pastāvīgu sastāvdaļu. Tā ir arī veids, kā valdes loceklim tas noder: nevis kā atsevišķa AI atskaite, ko šķirsta cauri, bet kā rinda atskaitē, kas jau tiek lasīta. Kā šī atskaite izskatās, ja tā ir pietiekami kompakta, lai to patiešām lasītu, aprakstīts vienas lapas valdes atskaites uzbūvē.

Ko šis process dod pierādāmības ziņā

Iemesls, kāpēc pieslēgšanās esošajai struktūrai ir spēcīgāka izvēle arī juridiski un organizatoriski, ir pierādāmība. Uzraudzības iestāde vai revidents, kas jautā, kā AI risks tiek pārvaldīts, labprātāk saņem atbildi "ar riska procesu, kuru mēs jau īstenojam, ar AI kā pastāvīgu sastāvdaļu" nekā "ar atsevišķu AI procesu, kas notiek blakus regulārajam procesam". Pirmā atbilde parāda organizāciju, kas risku pārvalda integrēti. Otrā parāda organizāciju, kas AI uzskata par izņēmuma gadījumu — ar risku, ka šis izņēmums, tiklīdz uzmanība pārvirzās citur, tiek atmests.

Tā pati loģika attiecas uz monitoringu. Atsevišķs AI paneļa rīks, ko neviens neapmeklē, nedod nekādu labumu. Monitorings, kas iekļauts pārskatā, ko riska vadītāji un valdes loceklis jau izmanto, tiek pamanīts, jo tas atrodas jau tur, kur tiek skatīts. Kas tam nepieciešams, izklāstīts kā AI sistēmu monitorings tiek iekļauts pārskatā, kas jau tiek izmantots un plašāk — kā pieslēgšanās esošajai riska struktūrai praksē tiek veidota.

No riska struktūras uz jautājumu, ko AI var pārņemt

Riska struktūra, kurā AI ir iekļauta, dod atbildi uz jautājumu, kas darbojas un kurš par to ir atbildīgs. Tā ir cita atbilde nekā jautājums, ko AI varētu pārņemt ikdienas darbā. Uz šo otro jautājumu atbild FTE TO AI darba skenējums, kas katrai uzdevuma vienībai aprēķina, kāda darba daļa ir piemērota pārņemšanai. Abas atbildes ir savstarpēji saistītas: riska struktūra nosaka, ar kādiem nosacījumiem AI var tikt izmantota, darba skenējums parāda, kur šī izmantošana faktiski maina darbu.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.