Eskalacijski put koji nitko ne koristi, ne postoji

Često već postoji dokument s naslovom eskalacijski postupak. U njemu se nalazi shema sa strelicama, niz imena i nekoliko graničnih vrijednosti. Problem nije to što dokument nedostaje. Problem je što ga nitko ne otvara u trenutku kad je potreban.

To se ne događa iz nevoljkosti. Događa se zato što već postoji put kojim problemi dolaze na vrh: linijski menadžer koji prijavljuje IT incident, compliance-officer koji razgovara s poslovnom stranom, voditelj tima koji svoj problem prepušta svom nadređenom. Taj put postoji, koristi se svakodnevno, i funkcionira — za stvari za koje je namijenjen. Novi eskalacijski put specifično za AI incidente tada je druga ruta pored rute koja već postoji. Kod dvojbe svatko bira rutu koju poznaje.

Zašto drugi proces gubi

Eskalacijski put koji je odvojen od postojeće strukture od zaposlenika traži da prvo prepozna da je nešto AI incident, zatim se sjeti da za to vrijedi drugi proces, i onda se potrudi slijediti taj proces umjesto da jednostavno nazove svog nadređenog. Svaki korak u tom lancu trenutak je u kojem se put napušta.

Uz to dolazi i drugi razlog, manje vidljiv ali podjednako presudan: onaj koji prijavljuje odstupanje ne želi odmah završiti na obrascu za incidente organizacije. Ako je eskaliranje jednako obračunu, ne eskalira se. To vrijedi za zaposlenika koji je koristio AI alat koji nije bio odobren, i vrijedi za menadžera koji je pokrenuo model bez da je bilo tko to znao. Eskalacijski put koji se stvarno koristi, put je kod kojeg prva prijava nije osuda, nego signal.

Što dokument treba sadržavati

Eskalacijski put koji funkcionira opisuje tri stvari, i ništa više od toga.

Onaj koji nešto zapazi — zaposlenik, klijent, vanjska strana — mora znati kome se može obratiti bez da prvo mora istražiti je li riječ o AI pitanju ili običnom operativnom pitanju. Put se nadovezuje na točku prijave koja već postoji, s dodatnom granom u trenutku kad se pokaže da je AI uključen.

Onaj koji donosi odluku — hoće li se nešto zaustaviti, prilagoditi, ili prijaviti nadzornom tijelu — mora biti utvrđen prije nego se incident dogodi. Ne kao apstraktni naziv funkcije, nego kao ime, s zamjenikom. Eskalacija koja zapinje kod praznog mandata nije eskalacija.

Mora biti jasno što se poslije događa s onim koji prijavljuje. Ako drugi proces postoji samo kao obveza prijavljivanja bez jasnoće o posljedicama za onoga koji prijavljuje, izbjegava ga se. To je upravo mjesto gdje se skriva sjenoviti AI: ne u sustavima koje IT poznaje, nego u alatima koje je netko počeo koristiti bez da to prijavi, jer je prijavljivanje bilo osjećaj priznanja krivnje.

Nadovezivanje umjesto dodavanja

Rješenje nije deblji dokument. Rješenje je eskalacijski put koji koristi strukturu koja već postoji — točku prijave, eskalacijsku liniju, odbor za rizike — i tome dodaje AI-specifičnu granu na mjestima gdje ta razlika ima značenje. Kako to nadovezivanje precizno funkcionira, i za širu politiku i popis odluka nadzornog tijela, opisano je u kako doći do AI politike koja se čita jer je ugrađena u postojeće i u kako doći do popisa odluka nadzornog tijela koji se nadovezuje na postojeći ritam odlučivanja. Oba dokumenta dodiruju istu točku: proces koji stoji pored organizacije se ignorira; proces koji je u njoj ugrađen, slijedi se.

Ovo polazište ne vrijedi samo za eskalaciju. Vrijedi za cijelu strukturu upravljanja oko AI-a. Onaj koji želi znati kako to izgleda šire — kako se klasifikacija rizika nadovezuje na postojeće kategorije rizika, kako nadovezivanje na postojeću strukturu rizika sprječava nastanak paralelne birokracije — tamo pronalazi temeljni princip. Isto vrijedi za izvještavanje prema vrhu: izvještaj upravnom odboru od jedne stranice funkcionira samo ako su eskalacije koje su u njemu navedene stvarno bile prijavljene. A bez kontinuiranog praćenja onoga što se mijenja, svaki eskalacijski put zastarijeva u roku od godine dana; što to znači u praksi, objašnjeno je na praćenje koje donosi rezultat.

Inventar kao polazna točka

Eskalacijski put moguće je napisati samo kad je poznato što sve može eskalirati. Sve dok nitko ne zna koji AI radi u organizaciji — uključujući ono što nije bilo odobreno — dokument ostaje teoretski. Responsible AI Scan zato ne počinje s eskalacijskim putom, nego s inventarom: što radi, tko to koristi, i koja razina rizika tome odgovara. Samo na temelju toga moguće je napisati eskalacijski put koji se nadovezuje na ono što već postoji, umjesto na ono što bi trebalo postojati na papiru.

Od eskalacije do preuzimanja