Лидерът на AI-програма обикновено получава един мандат: да се погрижи AI да бъде внедрен, екипите да работят по-бързо благодарение на него, програмата да показва резултати. Втори мандат рядко се добавя: да се погрижи всичко, което междувременно възниква, да бъде отговорно. И все пак той бива оценяван по и двете, щом нещо се обърка. Това е същината на неговия риск: той носи отговорност за програма, чиито граници не познава напълно.
Това, което печели с внедряването — по-бързи процеси, доволни екипи, видима история на иновация — стои срещу това, което губи, когато нещо се обърка: инцидент с инструмент, който не е бил в списъка му, одит, който задава въпроси, на които няма отговор, управителен орган, който пита защо програмата не е видяла какво вече се използва. Тази асиметрия прави позицията му уязвима, дори когато самата програма върви добре.
Неговият въпрос не е „кои AI-инструменти сме одобрили“. Този списък вече го има, и той често е по-кратък от реалността. Неговият въпрос е: какво използват екипи, които не са в моя списък, и как да получа видимост върху това, без хората да го скриват. Лидер на програма, който иска да стимулира внедряването, не може да си позволи потребителите да прикриват инструментите си от страх от санкция. Този, който пита какво се използва и после превръща това в проблем, при следващия въпрос вече не получава отговор. Управлението (governance) и внедряването тук работят в противоречие едно с другото, ако подходът е неправилен.
Отговор, който той не приема, е обикновена блокада: „Употребата на AI не е разрешена без одобрение.“ Този отговор удовлетворява одитор за момент, но премества употребата на места, които никой не вижда. Това е обратното на онова, което лидерът на програма иска да постигне: той иска употребата на AI да бъде видима и придружена, не да отиде в подземието. Забрана без механизъм за докладване и учене за него е загуба, дори ако на хартия звучи в съответствие с правилата.
Той също не приема отговор, който третира всичко еднакво. Инструмент, който обобщава текст за вътрешна употреба, не е същия риск като инструмент, който автоматично взема решения за клиенти или служители. Без разграничение по роля и ниво на риск програмата не може да приоритизира, а лидер на програма, който не може да приоритизира, не може да изпълни своя мандат.
Онова, което действително работи, е инвентаризация, която започва от това какво съществува, не от това какво е одобрено. Това означава да се задават въпроси на екипите за това какво реално използват, и да се прави по начин, който не носи санкция със себе си. Само тогава сенчестият AI (shadow AI) става видим — системите, въведени без формална процедура, често защото облекчаваха работата и никой не видя причина да чака одобрение.
След това следва класификация: коя приложение засяга клиенти, коя засяга само вътрешен процес, коя взема решения без човек по средата. Тази класификация определя къде надзорът трябва да бъде строг и къде може да остане лек. Без тази класификация програмата третира всичко еднакво строго или еднакво леко, и и двете са проблем: първото задържа внедряването, второто оставя рисковете без контрол.
Структурата на управление (governance), която следва от това, трябва да се вписва в онова, което вече съществува в организацията — съществуващите комисии по риска, съществуващите линии на докладване — не нов паралелен кръг. Именно тук лидер на програма се различава от други роли в организацията: управител иска да знае какво трябва да знае управителят за AI-риска на нивото на крайна отговорност, CIO подхожда от гледна точка на системи и достъп, както е описано в какво трябва да знае CIO за AI-риска, а General Counsel гледа на отговорност и задължение за документация чрез какво трябва да знае General Counsel за AI-риска. Лидер на програма трябва да може да обслужи тези три перспективи, без да губи собствената си задача — внедряването.
Какви конкретни задължения важат за коя категория риск, и в какви срокове, не е темата на тази страница. Този текст се променя, изостря се и получава разяснения на други места. Тук става въпрос за механизма: как програмата получава представа за това какво се случва, как превежда това в нива на риск, и как доказва това пред управителния орган и надзора, независимо какво точно предписва конкретния текст на правилото в дадения момент.
Щом стане ясно какво се използва и кой носи отговорност за него, възниква друг въпрос: какво носи като полза, ако тази работа бъде добре организирана. Това е въпрос, на който трябва да се отговори за всяка задача поотделно, не за цялата организация. Работният скенер (werkscan) на FTE TO AI изчислява на това ниво коя част от работата може да бъде поета от AI, така че лидерът на програма не само да знае какво се случва, но и къде добавянето на капацитет наистина прави разлика.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.