Eskalacijski put za AI incidente koji se postavlja pored postojeće strukture, u praksi se zaobilazi. Ne zato što ga nitko ne želi koristiti, nego zato što već postoji put: za curenje podataka, za pritužbe, za operativne smetnje. Onaj tko u trenutku incidenta mora birati između dvije rute, bira rutu koju već poznaje. Drugi proces pored prvog nije dodatna sigurnost, to je grananje koje pod pritiskom nestaje kod prvog.
Pitanje nije treba li postojati eskalacijski put. Pitanje je gdje se on priključuje. Eskalacijski put za AI funkcionira kada ne otvara novi šalter, nego postojećem šalteru daje dodatni ulaz. To znači: ista struktura prijavljivanja koja se već koristi za incidente, dopunjena pitanjem koje pokazuje je li AI igrao ulogu. Isti vlasnik koji je već odgovoran za obradu rizika, s jasnom slikom o tome kada signal povezan s AI-jem treba doći do njega. Ista linija izvještavanja prema gore, bez posebne AI linije pored nje.
Ono što u to spada, time je manje popis koraka, a više skup priključnih točaka: tko prijavljuje, gdje to dolazi, tko procjenjuje eskalira li se i prema kome. Kod svake od tih točaka pitanje nije "kako bi to trebalo funkcionirati", nego "gdje se to već događa, i što treba dodati tome da bi se uključio AI". Eskalacijski put koji je na taj način izgrađen ne treba posebnu uputu, jer ne traži drugačije ponašanje od onoga koje je već poznato.
Postoji prepoznatljiv obrazac: organizacija izradi proces specifičan za AI, s vlastitim obrascem, vlastitim odborom, vlastitim trenutkom izvještavanja. Na papiru je to potpuno. U praksi se ignorira, i ne iz nespremnosti. Drugi proces traži da netko u trenutku incidenta prvo odredi radi li se o AI-ju prije nego zna koji put slijediti. Taj dodatni korak ispada čim postoji vremenski pritisak, i postojeći put — put koji se ionako već koristi za slične situacije — pobjeđuje.
Uz to, odvojen AI proces obično dobiva posebnog vlasnika, odvojenog od onoga koji je već odgovoran za eskalaciju rizika općenito. To razdvaja pregled u trenutku kada je pregled potreban. Onaj tko primi signal o AI sustavu koji ne radi kako je predviđeno, mora ga moći postaviti pored drugih signala rizika, ne u izoliranom kanalu gdje se procjenjuje odvojeno od ostatka organizacije.
Ugrađivanje znači da eskalacijski put za AI nije vidljiv odvojen dio, nego proširenje onoga što već postoji. To traži nekoliko konkretnih odluka, bez obzira na sektor: koji postojeći kanal za prijavljivanje dobiva dodano pitanje o uključenosti AI-ja, koji postojeći vlasnik rizika dobiva ovlast za procjenu treba li se nešto dalje eskalirati, i na kojem postojećem trenutku izvještavanja se AI uključuje umjesto da se pored njega postavlja novi trenutak.
Te odluke ovise o tome kako je organizacija već uređena. Organizacija sa snažnom funkcijom usklađenosti (compliance) tu procjenu postavlja tamo; organizacija u kojoj je upravljanje rizicima smješteno u operativnoj liniji, postavlja je tamo. Ne postoji fiksna shema koja za svaku organizaciju daje isti eskalacijski put, jer je eskalacijski put po definiciji odraz strukture u koju se postavlja.
Ovo ugrađivanje dodiruje se s time kako se rizici već razvrstavaju — kako to uklapanje u postojeću strukturu rizika izgleda, razrađeno je na stranici o uklapanju u postojeću klasifikaciju rizika — i s time što se događa s eskalacijom čim dosegne stol uprave, kao što je opisano na stranici o izvještaju za upravu koji stane na jednu stranicu. Bez tog uklapanja, eskalacijski put ostaje dokument koji negdje leži, umjesto rute koju netko stvarno slijedi u trenutku kad je to potrebno.
Eskalacijski put koristan je samo ako postoji nešto što eskalira. To traži oblik praćenja koji daje signale prije nego se incident dogodi, ne samo rekonstrukciju unatrag. Kako se taj dio praćenja uređuje bez da postane novi teret izvještavanja, opisano je na stranici o praćenju koje se uklapa u postojeće izvještavanje umjesto da dodaje novi sloj. Zajedno, inventarizacija, praćenje i eskalacija čine lanac: bez jednog od ta tri, i ostalo funkcionira samo djelomično.
Onaj tko razrađuje ovu rutu, to obično radi iz ulote s odgovornošću za rizik ili upravljanje (governance). Što bi član uprave u tom pogledu trebao znati, sažeto je na stranici što bi član uprave trebao znati o AI riziku; tehnička i operativna strana istog pitanja nalazi se na stranici što bi CIO trebao znati o AI riziku. Oba se gledišta spajaju u samom eskalacijskom putu, koji funkcionira na sjecištu upravljačke odgovornosti i operativnog izvršenja.
Ova stranica opisuje mehanizam; precizno uređenje ovisi o organizaciji i ne utvrđuje se ovdje. FTE TO AI radi na alatu koji podupire ovo ugrađivanje; onaj tko se time već bavi, može se prijaviti na listu čekanja.
Eskalacijski put uređuje što se događa čim nešto krene po zlu ili prijeti da krene po zlu. Drugo pitanje, koje često ostaje odvojeno pored njega, je što AI već svakodnevno radi u redovnom poslu. Radna skeniranja (werkscan) FTE TO AI izračunava po zadatku koji dio posla može preuzeti AI, i time daje slikу one strane korištenja AI-ja koja nije povremena, nego strukturna — slika koja je korisna uz inventarizaciju rizika o kojoj govori ova stranica.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.