Какво стои на страницата, която прочита ръководството

Въпросът, който предхожда доклада

Борд, който поставя AI на дневния ред, обикновено получава два вида документи: дебело досие, което никой не прочита преди заседанието, или обобщение, което казва толкова малко, че от него не следва никакво решение. Едностраничен доклад за борда не е обобщение на досието. Това е друг въпрос: какво трябва да знае член на борда, за да може да носи отговорност, и какво е шум.

Това разграничение не е тривиално. Повечето AI-доклади, които ние виждаме, преброяват системи. Страница, която само преброява колко AI-приложения има, не казва на борда нищо за къде е риска. Преброяването е ИТ-въпрос. Управлението (governance) е друг въпрос: кои приложения засягат решения относно хора, кои са въведени в употреба без надзор, и кои попадат в клас на риск, който изисква подпис.

Какво наистина трябва да съдържа

Страница, която работи, съдържа ограничен брой елементи, всеки с причина да бъде включен:

Състоянието на инвентара. Не списък със системи, а изявление за обхвата: какво е идентифицирано, какво се предполага, че съществува, но не е потвърдено, и какво е съзнателно оставено извън обхват.
Класификацията на риска в общи линии. Колко приложения попадат в категория, която изисква внимание от борда, без да се описва подробно всяка отделна система.
Открити решения. Не оперативната обработка, а въпросът, който стои пред борда: инвестиция, приемане на риск, избор между продължаване и спиране.
Какво се е променило от предишния доклад. На борд му е от малка полза снимка; от полза му е разликата.

Останалото — кой е обучил кой модел, какъв доставчик прилага какви условия, каква техническа мярка е приложена — принадлежи на слоя отдолу. Този слой съществува, се поддържа и може да бъде поискан. Но не принадлежи на страницата, която борда прочита, защото тогава борда няма да я прочете.

Защо втори процес бива игнориран

Причината толкова много AI-управление да засяда, не е липсата на процес. Причината е, че съществува втори процес, наред със съществуващия. Борд вече има комитет по риска, вече има календар за одит, вече има формат за докладване относно оперативен риск, относно съответствие (compliance), относно информационна сигурност. Който постави отделен AI-процес наред с това — със собствена честота, собствен шаблон, собствен собственик — иска нещо, което първо се пропуска, когато дневният ред е претоварен. Това не се случва от нежелание. Случва се, защото втори процес по дефиниция получава по-малко внимание от първия.

Докладът, който наистина се прочита, е докладът, който следва съществуващия ритъм: същото заседание, същия формат, същия начин на ескалация, който вече съществува за други рискове. Как това приобщаване се реализира на практика, е описано на страницата за приобщаване към съществуващата структура за управление на риска, а начинът, по който решенията впоследствие се документират, се разглежда на страницата за списък с решения за надзор, вграден в съществуващия ритъм.

Какво предполага страницата

Едностраничен доклад е полезен само ако инвентарът зад него е коректен. Това е частта, която най-често се пропуска: членове на борда получават страница с класификация на риска, без никой да е проверил дали основният списък с AI-приложения е пълен. Скрит AI (shadow AI) — употребата, която е възникнала извън ИТ-списъка — тогава мълчаливо изчезва от картината, не защото е незначителна, а защото никой не е питал за нея. Служител, който използва AI-инструмент без той да е одобрен, не съобщава за това сам, ако заплаши разчистване на сметки. Той съобщава за него само когато се задават въпроси без последствия.

Страницата от една страна е следователно върхът на процес, който започва с инвентара и ескалира по пътища, които вече съществуват. Как тази ескалация работи, без да създава нова йерархия, е описано на страницата за ескалационни пътища, които действително се използват. А какво трябва да се поддържа структурно, за да може страницата да се попълва отново всеки път, без това да се превръща в реконструкция, е описано на страницата за мониторинг, който действително дава резултат за докладването.

Какво все още не е това

Responsible AI Scan осигурява инвентара, класификацията и структурата на управление, която се приобщава към вече съществуващото — включително формата за доклад, който борда действително прочита. Самият скенер е в процес на разработка; който иска нещо от това още сега, може да се запише в списъка на чакащите.