Финансовите доставчици на услуги познават управлението на риска като занаят. Вече съществуват рамки за кредитен риск, операционен риск, модeлен риск и съответствие с нормативните изисквания (compliance). Точно затова AI-управлението тук е различно от секторите, които започват с чист лист: въпросът не е дали съществува рискова структура, а дали AI вече е включен в нея или е израснал успоредно с нея. Моделите за кредитен скоринг, откриване на измами или сегментиране на клиенти често съществуват отдавна, отпреди етикетът „AI“ да им бъде залепен. Въпросът за управлението тогава не е: строим ли нещо ново, а: пасва ли съществуващият надзор на това, което вече работи в момента.
Съотношението между това, което е известно на комисия по модeлен риск или отдел за съответствие, и това, което действително се използва, се различава силно между институциите. При едни почти всичко е преминало през процес на валидиране в даден момент, при други наред с одобрените модели работят и инструменти, които отделни служители или екипи сами са започнали да използват, без да са ги подложили на проверка от някого. Какво съотношение важи за конкретна организация, не може да се посочи без да се направи проверка на място.
Институция със зряла рамка за модeлен риск понякога приема, че AI вече е обхванат от нея. Управлението на модeлния риск е изградено върху статистически модели с фиксиран вход и изход. Езиков модел, който обобщава клиентски запитвания, инструмент, който генерира чернова на консултативно писмо, или система, която претърсва договори, не винаги попада в тази дефиниция и по този начин се изплъзва през съществуващия пропуск. Въпросът за управлението следователно не е само какви модели съществуват, а и кои инструменти се разпознават като AI и кои не.
Освен това е решаваща ролята на AI в процеса. Инструмент, който подпомага консултант при изготвянето на съвет, е различен от инструмент, който сам генерира съвета или влияе върху решение за приемане. Една и съща технология може в едно приложение да бъде помощно средство, а в друго — звено, което пряко засяга решение спрямо клиент. Класификацията по роля и ниво на риск е затова необходима, преди институция да може да каже какво ниво на надзор пасва на кое приложение.
ИТ-списъкът на одобрените приложения не отразява това, което действително се използва. Служителите във финансовите услуги работят с клиентски досиета, транзакционни данни и поверителна консултативна информация, и точно тази група не е имунизирана срещу поставянето на текст в безплатен чат-прозорец, за да се получи по-бързо обобщение или чернова на отговор. Как този риск се проявява конкретно и какво може да се направи срещу него, е описано в подхода срещу изтичане на фирмени данни в безплатен чат-прозорец.
Причината, поради която това използване остава невидимо, рядко е нежелание. По-често е следствие от неяснота относно какво е позволено и какво не, съчетано с натиск от времето. Който иска да знае какво действително се използва, трябва да попита за това директно, а това работи само ако служителите не се страхуват от санкция заради отговора си. Подход, който взема това предвид, е обяснен на страницата за изясняване на инструменти, които никой не е одобрил.
Друго, което отличава финансовите услуги, е навикът за отчетност. Риск-мениджър или General Counsel в този сектор е свикнал да може да покаже на надзорен орган или на надзорния съвет как е оценен риск и какви мерки следват от тази оценка. За AI това означава, че инвентаризацията не може да стои отделно от съществуващата рискова рамка; тя трябва да се вписва в нея, със същото разделение на рискови класове и същите линии на отчетност, които вече важат за другите рискови категории. Набор от правила за управление, поставен до съществуващата рамка, вместо включен в нея, носи допълнителна работа при следващия одит, вместо опора.
Съдържанието на правилата, приложими към AI, се променя и се поддържа актуално на друго място. Тази страница описва механизма: инвентаризиране на това, което работи, класификация по роля и риск, и вграждане на резултата в съществуващите структури за управление, така че институцията при въпрос от надзорен орган или управителен съвет да има отговор, който съответства на начина, по който рискът вече се управлява.
Напрежението между съществуващия надзор и новото използване на AI не е уникално за финансовите услуги. Подобни модели се наблюдават в начина, по който се изгражда AI-управлението в енергийния сектор, в начина, по който строителният сектор борави с AI-приложения на терен и в процеса на проектиране, и в начина, по който секторът на недвижимите имоти гледа на AI при оценяване и управление. Различава се не механизмът, а мястото, на което пада риска: при банка или застраховател това често е решение, което пряко засяга клиент.
Инвентаризация на използването на AI и съответната класификация на риска показват какво работи и под какъв надзор би трябвало да попада това. Те не показват какво означава това използване за самото разпределение на работата: коя част от задача, като изготвянето на консултативен доклад, прегледа на досие или обобщаването на разговор с клиент, е подходяща да бъде поета от AI и коя част остава при служителя. Този въпрос е извън обхвата на скенер за управление и отговорът на него се дава от работния скенер (werkscan) на FTE TO AI, който за всяка задача изчислява коя част от работата може да бъде прехвърлена на AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.