Bieži jau ir dokuments ar nosaukumu eskalācijas procedūra. Tajā ir shēma ar bultām, vārdu saraksts un pāris sliekšņu vērtības. Problēma nav tā, ka dokuments trūkst. Problēma ir tā, ka to neviens neatver brīdī, kad tas ir nepieciešams.
Tas notiek ne no negribas. Tas notiek tāpēc, ka jau pastāv ceļš, pa kuru problēmas nonāk augšup: līnijas vadītājs, kas ziņo par IT incidentu, atbilstības (compliance) speciālists, kas runā ar biznesa pusi, komandas vadītājs, kas savu problēmu izklāsta savam tiešajam vadītājam. Šis ceļš eksistē, tiek izmantots katru dienu un darbojas — tajās situācijās, kurām tas ir paredzēts. Jauns eskalācijas ceļš, kas ir specifiski paredzēts AI incidentiem, tad kļūst par otru maršrutu blakus maršrutam, kas jau darbojas. Šaubu gadījumā katrs izvēlas maršrutu, ko pazīst.
Eskalācijas ceļš, kas ir atrauts no esošās struktūras, prasa no darbinieka, lai viņš vispirms atpazīst, ka kaut kas ir AI incidents, tad atceras, ka tam ir spēkā cits process, un tad uzņemas piepūli šo procesu ievērot, tā vietā, lai vienkārši piezvanītu savam vadītājam. Katrs solis šajā ķēdē ir brīdis, kad ceļš tiek pamests.
Klāt nāk otrs iemesls, mazāk redzams, bet tikpat izšķirošs: kurš ziņo par novirzi, negrib nekavējoties nonākt organizācijas incidentu formulārā. Ja eskalēšana ir līdzvērtīga norēķinam, tad eskalēšana nenotiek. Tas attiecas uz darbinieku, kurš izmantoja neapstiprinātu AI rīku, un tas attiecas uz vadītāju, kurš palaida modeli, par ko neviens nezināja. Eskalācijas ceļš, kas tiešām tiek izmantots, ir ceļš, kurā pirmais ziņojums nav spriedums, bet signāls.
Eskalācijas ceļš, kas darbojas, aprakstīs trīs lietas, un ne vairāk par to.
Kurš pamana kaut ko — darbinieks, klients, ārēja puse — tam jāzina, pie kā vērsties, bez tā, ka vispirms jāizdomā, vai tā ir AI lieta vai parasta operatīva lieta. Ceļš iekļaujas pieteikšanas punktā, kas jau pastāv, ar papildu atzaru brīdī, kad izrādās, ka tajā iesaistīta AI.
Kurš pieņem lēmumu — vai kaut ko aptur, pielāgo vai ziņo uzraudzības institūcijai — tam jābūt noteiktam pirms incidents notiek. Nevis kā abstrakts amata nosaukums, bet kā vārds, ar aizvietotāju. Eskalācija, kas apstājas pie tukša mandāta, nav eskalācija.
Skaidram jābūt, kas notiek pēc tam ar ziņotāju. Ja otrais process sastāv vien no ziņošanas pienākuma, bez skaidrības par sekām ziņotājam, no tā izvairās. Tieši tur slēpjas ēnu AI: ne sistēmās, ko IT pazīst, bet rīkos, ko kāds sāka izmantot, par to neziņojot, jo ziņošana radīja atzīšanās sajūtu.
Risinājums nav biezāks dokuments. Tas ir eskalācijas ceļš, kas izmanto struktūru, kas jau pastāv — pieteikšanas punktu, eskalācijas līniju, riska komiteju — un tai pievieno AI specifisku atzaru punktos, kur tas rada atšķirību. Kā tieši šī iekļaušana darbojas, arī plašākas politikas un uzraudzības institūcijas lēmumu saraksta kontekstā, ir aprakstīts kā izveidot AI politiku, kas tiek lasīta, jo tā ir iestrādāta jau esošajā un kā izveidot uzraudzības lēmumu sarakstu, kas iekļaujas esošajā lēmumu pieņemšanas ritmā. Abi dokumenti pieskaras vienam un tam pašam punktam: process, kas atrodas blakus organizācijai, tiek ignorēts; process, kas atrodas tās iekšienē, tiek ievērots.
Šis pamatprincips attiecas ne vien uz eskalāciju. Tas attiecas uz visu AI pārvaldības struktūru. Kurš vēlas zināt, kā tas izskatās plašāk — kā riska klasifikācija iekļaujas esošajās riska kategorijās, kā iekļaušanās esošajā riska struktūrā novērš paralēlas birokrātijas rašanos — atradīs tur pamatprincipu. Tas pats attiecas uz ziņošanu augšup: vienas lapas valdes ziņojums darbojas tikai tad, ja tajā minētās eskalācijas patiešām ir notikušas. Un bez nepārtrauktas novērošanas par to, kas mainās, katrs eskalācijas ceļš gada laikā noveco; ko tas nozīmē praksē, ir izklāstīts monitorings, kas nes rezultātu.
Eskalācijas ceļu var uzrakstīt tikai tad, kad zināms, kas var eskalēties. Kamēr neviens nezina, kāda AI darbojas organizācijā — ieskaitot to, kas nav apstiprināta — dokuments paliek teorētisks. Tāpēc Responsible AI Scan nesākas ar eskalācijas ceļu, bet ar inventarizāciju: kas darbojas, kurš to izmanto, un kāds riska līmenis tam atbilst. Tikai uz šī pamata var uzrakstīt eskalācijas ceļu, kas iekļaujas tajā, kas jau pastāv, nevis tajā, kam vajadzētu pastāvēt uz papīra.
Eskalācijas ceļi attiecas uz to, kas noiet greizi ar AI, ko jau izmanto. Cits jautājums, tikpat mazapzināts, ir tas, kur AI varētu pati pārņemt darbu. FTE TO AI darba skenēšana (werkscan) katram uzdevumam aprēķina, kāda darba daļa tam atbilst, neatkarīgi no tā, vai tas jau notiek vai to vēl vajag ieviest.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.