Ескалационен път, който никой не използва, не съществува

Често вече съществува документ с título ескалационна процедура. В него има схема със стрелки, списък с имена и няколко прагови стойности. Проблемът не е, че документът липсва. Проблемът е, че никой не го отваря в момента, когато е необходим.

Това не се случва от неохота. Случва се, защото вече съществува път, по който проблемите се придвижват нагоре: линейният ръководител, който съобщава за ИТ инцидента, служителят по съответствие, който разговаря с бизнеса, ръководителят на екипа, който поставя своя проблем пред собствения си ръководител. Този път съществува, използва се ежедневно и работи — за нещата, за които е предназначен. Нов ескалационен път специално за AI инциденти става тогава втори маршрут наред с маршрут, който вече функционира. При съмнение всеки избира маршрута, който познава.

Защо вторият процес губи

Ескалационен път, който е отделен от съществуващата структура, изисква от служителя първо да разпознае, че нещо е AI инцидент, после да си спомни, че за това важи друг процес, и след това да си направи труда да следва този процес, вместо просто да се обади на своя ръководител. Всяка стъпка в тази верига е момент, в който пътят се изпуска.

Към това се добавя и втора причина, по-малко видима, но не по-малко определяща: който съобщава за отклонение, не иска веднага да се окаже вписан в бланката за инциденти на организацията. Ако ескалирането е равносилно на наказание, ескалиране не се случва. Това важи за служител, който е използвал AI инструмент, който не е бил одобрен, и важи за ръководител, който е пуснал модел без никой да знае за това. Ескалационен път, който наистина се използва, е път, при който първото съобщение не е присъда, а сигнал.

Какво трябва да съдържа документът

Ескалационен път, който работи, описва три нещи и не повече от това.

Кой забелязва нещо — служител, клиент, външна страна — трябва да знае към кого да се обърне, без първо да трябва да установи дали е AI въпрос или обичаен оперативен въпрос. Пътят се съгласува с точката за подаване на сигнали, която вече съществува, с допълнително разклонение в момента, в който се установи, че AI е замесен.

Кой взема решението — дали нещо се спира, се коригира или се докладва на регулаторен орган — трябва да бъде определено предварително, преди инцидентът да се случи. Не като абстрактна длъжност, а като конкретно име, с заместник. Ескалация, която засяда при празен мандат, не е ескалация.

Какво се случва след това с подателя на сигнала, трябва да бъде ясно. Ако вторият процес се състои единствено от задължение за докладване без яснота относно последствията за подаващия сигнала, той се избягва. Точно там се крие сенчестият AI: не в системите, които ИТ познава, а в инструментите, които някой е започнал да използва, без да съобщи за това, защото докладването се е усещало като признание.

Съгласуване вместо добавяне

Решението не е по-дебел документ. То е ескалационен път, който използва структурата, която вече съществува — точката за подаване на сигнали, ескалационната линия, комитета по риска — и добавя към нея AI-специфично разклонение в точките, където има значение. Как точно се извършва това съгласуване, включително за по-широката политика и списъка с решения на надзорния орган, е описано в как получавате AI политика, която се чете, защото е вградена в съществуващото и в как получавате списък с решения за надзор, който се съгласува със съществуващия ритъм на вземане на решения. Двата документа засягат една и съща точка: процес, който стои извън организацията, се игнорира; процес, който е вграден в нея, се следва.

Този принцип не важи само за ескалация. Той важи за цялата управленска структура около AI. Който иска да разбере как изглежда това по-широко — как класификацията на риска се съгласува със съществуващите категории на риска, как съгласуването със съществуващата структура на риска предотвратява възникването на паралелна бюрокрация — намира там основния принцип. Същото важи и за докладването нагоре: доклад до борда от една страница работи само ако ескалациите, включени в него, действително са били съобщени. И без непрекъснато наблюдение на онова, което се променя, всеки ескалационен път остарява в рамките на година; какво означава това на практика, е обяснено на мониторинг, който носи резултат.

Инвентаризацията като изходна точка

Ескалационен път може да бъде написан само когато е известно какво може да ескалира. Докато никой не знае какви AI системи се използват в организацията — включително тези, които не са били одобрени — документът остава теоретичен. Ето защо Responsible AI Scan не започва с ескалационния път, а с инвентаризацията: какво се използва, кой го използва и какво ниво на риск съответствува на това. Само на тази основа може да бъде написан ескалационен път, който се съгласува с това, което вече съществува, вместо с това, което би трябвало да съществува на хартия.

От ескалация към поемане