Kennisbank

Как предотвратявате отдел със собствен абонамент?

Един маркетингов екип има нужда от асистент за писане. Финансов анализатор иска инструмент, който обобщава таблици. Никой от тях не чака процес по обществена поръчка, който отнема месеци. Има кредитна карта, имейл адрес, и в рамките на десет минути има абонамент, който отделът сам плаща, сам управлява и сам използва. ИТ отделът не знае нищо за това. Няма причина да се докладва, защото не е направено нищо грешно — просто е решен проблем.

Как възниква това

Повечето сенчести AI не започват с опит да се заобиколят правилата. Те започват със задача, която трябва да се свърши по-бързо, краен срок, който не чака одобрителна процедура, и инструмент, който е достъпен без намесата на друг. Отделът, който се абонира, не го възприема като ИТ решение. Усеща се като канцеларски материал, не по-различно от софтуерен лиценз, който всички вече използваха преди да има централна политика за обществени поръчки. Че езиков модел обработва фирмени данни, чете клиентска информация или генерира чернова на текст, който отива навън, не е въпрос на управление за потребителя. Това е просто работа.

Същата динамика се проявява при доставчик, който вгради AI в своя продукт без за това да е проведен отделен разговор: функционалността се появява при обновление, никой не подписва нищо за нея, и организацията я използва преди някой да е установил кой носи отговорност за нея.

Защо това не изчезва от само себе си

Обявление, че неоторизирани инструменти не са разрешени, променя малко. Отделът, който има абонамента, го възприема като работещо решение, не като риск, който трябва да се докладва. Забрана без алтернатива води до две неща: абонаментът отива в подземието, или екипът се отказва от него и работата отново се забавя. Нито едно от двете не е това, което организация иска.

Освен това, такъв абонамент рядко е еднократно решение. Той се превръща в част от работния процес, свързва се с други инструменти, използва се в процеси, които вече зависят от него. Това, което започва като опит, се превръща в постоянна част от начина, по който екипът работи — точно същият модел, който се вижда и при тестова конфигурация, която никога не е изключена: никой не е решил да я направи постоянна, но никой не е решил и да я спре.

Какво не постига наказването

Рефлексът да се издирва сенчестият AI и потребителят да бъде извикан на разговор за това, действа обратно на желаното. Който знае, че докладване води до наказание, не докладва. Абонаментът продължава да съществува, само по-невидим. Отделът става по-внимателен в това, което докладва, не по-грижлив в това, което използва.

Което наистина работи, е да се задават въпроси без санкция, обвързана с тях. Екип, който използва инструмент за да ускори задача, обикновено има за това причина, която организацията иска да познава: процес, който е твърде бавен, задача, която е претоварена, нужда, която съществуващото предложение не покрива. Вижте как това е описано при служители, които използват инструмент, който никой не е одобрил — точката за връзка не е нарушението, а нуждата зад него.

Какво може да направи организацията с това

Първата стъпка не е налагане на правила, а инвентаризация: какви инструменти има, кой ги използва, за каква задача, и с какви данни. Това не се случва чрез ИТ списъка — той регистрира какво е одобрено, не какво се използва. Случва се чрез задаване на въпроси, по начин, който не съдържа заплаха.

Веднъж когато има яснота за какво работи, може да следва класификация: каква роля играе инструментът, какво ниво на риск отговаря на това, и каква форма на надзор е подходяща. Не всеки абонамент, който отдел сам е сключил, представлява проблем. Инструмент, който преработва публичен текст, е в различна категория от инструмент, който обработва клиентски данни без никой да знае къде отиват тези данни. Разграничението между тези категории е точно това, около което се върти човешкият надзор на практика: не всяко използване изисква същата степен на контрол, но всяко използване изисква да се знае, че съществува.

След това следва структура на управление, която се свързва с това, което вече съществува — не нов процес до съществуващата рамка за риск, а разширение на нея. Организация, която третира AI риска отделно от останалата част на управлението на риска, е изложена на риск вторият процес да бъде пренебрегнат, както се четe при втори процес до съществуващия, който бива пренебрегнат. Подходът, който остава в сила, е този, който се свързва с това, което организацията вече прави за управление на риска.

Въпросът, който остава

Абонамент, който отдел сам е сключил, обикновено е сигнал, че нещо трябва да се случи по-бързо, отколкото текущият процес позволява. Именно на този въпрос — коя част от работата може да бъде ускорена, и къде това може да се случи структурирано, вместо незабелязано — отговаря работният скенер на FTE TO AI. Работният скенер изчислява за всяка задача каква част от работата може да бъде поета от AI, така че нуждата, довела до сенчест абонамент, да получи място в процес, който организацията наистина познава и наистина управлява.