Има момент, в който служител има проблем и търси решение. Текст, който трябва да стане по-бърз, набор от данни, който трябва да бъде по-подреден, клиент, който иска отговор още днес. IT-гишето отнема твърде много време, или няма такова гишо. Затова се създава акаунт, инсталира се разширение, поема се абонамент чрез кредитна карта, която никой не проверява. Не от неохота. От работно натоварване.
Така се появява сенчестият AI (shadow AI). Не като бунт срещу политиката, а като практичен отговор на пропуск в политиката. И той не изчезва сам, защото причината, поради която е възникнал — задача, която с AI върви по-бързо, отколкото без него — продължава да съществува, докато политиката не предложи алтернатива. Забраната не променя задачата. Тя само променя дали знаете, че инструментът се използва.
Преглед на одобрен софтуер казва нещо за това какво е било заявено и разрешено. Той не казва нищо за това какво реално се използва. Между тези два списъка има разлика, която става по-голяма с всяко увеличаване на достъпността на AI инструментите: без инсталация, без процес на закупуване, само браузър и акаунт. Разширение за браузър с достъп до вашата поща остава извън всеки процес на закупуване и извън всеки преглед, докато достъпът, който има, е точно толкова чувствителен, колкото и одобрена система. Който гледа само IT-списъка, гледа част от действителността и я нарича цялото.
Единият начин да разберете какво наистина се използва, е да попитате. Не като контролен въпрос със санкция накрая, а като инвентаризация без последствия за тези, които съдействат. В момента, в който служителите заподозрат, че честен отговор води до разговор с ръководител, информацията не изчезва — тя просто отива в подземието. Същият инструмент продължава да работи, само по-малко видимо. Организация, която иска да знае обхвата на сенчестия AI, трябва първо да уреди условието, при което получава отговора. Това не е въпрос на загуба на доверие, а въпрос на последователност: първо видимост, после политика.
След като инвентаризацията веднъж е събрана, се появява нещо използваемо: списък на инструменти по роля и ниво на риск, не по добро или лошо. Инструмент, който преработва текст за вътрешна употреба, носи различен риск от инструмент, който обработва данни на клиенти или подготвя решения. Някои от тези инструменти са възникнали от индивидуална употреба, която е израснала до стандарт на отдела — вижте отдел със собствен абонамент — и заслужават по-скоро формализиране, отколкото забрана. Други са настроени еднократно за проект, който е приключил, но достъпът все още е отворен; това е модел, описан при пробна инсталация, която никога не е била изключена. Класификацията определя какво е нужно: понякога нищо, понякога адаптация, понякога включване в съществуващата структура на управление (governance).
Целта на този подход не е да се посочат всички, които са стартирали инструмент без разрешение. Целта е да се знае какво работи, кой го използва и какъв риск е свързан с това — за да може ръководител, CIO или General Counsel да отговори на този въпрос, когато му бъде поставен, вътрешно или външно. Това изисква постоянен начин на инвентаризиране, който не спира след един кръг, защото постоянно се появяват нови инструменти. Как тази инвентаризация се изгражда на практика, включително въпросът кой я извършва и колко често, е описано в как изграждате AI инвентар.
Самата структура на управление (governance) — какви правила важат за какво ниво на риск, какви срокове и задължения се свързват с това — е отделна тема със собствено актуално съдържание, което не се повтаря тук. Това, което е важно на тази страница, е механизмът: получаване на видимост без прекъсване на информационния поток, и превръщането на тази видимост в класификация, която се съгласува с онова, което организацията вече е изградила по отношение на управление на риска.
Инвентарът, който разкрива сенчестия AI, често не разкрива само отделни инструменти. Той разкрива и че доставчик е добавил AI към система, която вече е била в употреба, без да се е състоял отделен разговор за това — моделът зад доставчик, който вграждаше AI в своя продукт — и че чувствителна фирмена информация понякога просто се поставя в публично чат-поле, както е описано при фирмени данни в безплатно чат-поле. Всички тези форми споделят един и същ произход: задача, за която AI работи по-бързо от съществуващия процес.
Това наблюдение логично води до друг въпрос, отделен от одобрение и риск: коя част от самата работа е подходяща за поемане от AI. Работният скенер на FTE TO AI изчислява това по задача, въз основа на действителното съдържание на работата, и показва къде автоматизацията може да поеме реална част от времето — като стъпка към разговор за какво може да се планира с това, а не като заместител на въпроса за управление (governance), който е в центъра на тази страница.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.