Един екип искал да изпробва нещо. Чатбот за клиентски въпроси, скрипт, който обобщава отчети, връзка с езиков модел за сортиране на имейли. За това не било необходимо голямо решение: някой имал профил, API-ключ или безплатен пробен период, и в рамките на един следобед вече работело нещо. Пилотният проект действал, или действал достатъчно добре, и никой нямал повод да го спре.
Това не е изключение. Това е обичайният начин, по който изкуственият интелект навлиза в една организация. Не чрез обществена поръчка или одобрен бюджет, а чрез пробна инсталация, която надживява собствения си пробен статус. Тестовата фаза никога не е приключена формално, защото никога не е имало и формално начало, което да се приключи.
Пилотен проект, който работи, се използва. А това, което се използва, се превръща в зависимост. Екипът, който изградил обобщителя на отчети, може вече да е напуснал, но обобщението продължава да пристига всяка седмица. Никой не е получил задача да го спре, и никой не иска да поеме риска нещо да прекъсне работа, без да знае какво ще го замести.
Освен това пробна инсталация обикновено няма собственик в смисъла, който една структура за управление изисква. Не е изготвена класификация на риска, не е извършен анализ на данните, не е взето решение кой носи отговорност, ако нещо се обърка. Пилотният проект съществува в междинно пространство: твърде използван, за да бъде игнориран, твърде неформален, за да бъде управляван. Това е точно моделът, който води до служители, които използват инструмент, който никой не е одобрил — само че тук на ниво екип, а не на индивидуално ниво.
Рефлексът при откриване на неоторизирана пробна инсталация често е: кой е позволил това и защо не сме знаели. Този въпрос е разбираем, но действа обратно на очакваното. Който още при първия разговор усети, че се задава въпрос за вина, следващия път няма да разкаже нищо. А следващата пробна инсталация — която без съмнение ще се появи — тогава ще изчезне от полезрението точно както тази.
Инвентаризация, изградена на доверие, дава повече резултат от одит, изграден на контрол. Не защото хората нямат нищо да крият, а защото информацията, която търсите, се намира при потребителя, и този потребител ще говори само ако не бъде наказан за това, което открие.
Веднъж щом пробна инсталация е установена, първият въпрос не е дали може да продължи да съществува, а какво прави точно тя. Какви данни влизат в нея, кой използва резултата и какво се случва, ако резултатът е грешен. Това са същите въпроси, които важат за всяко друго приложение на изкуствен интелект, и отговорът определя дали нещо е неформално помощно средство или риск, който заслужава внимание.
След това следва класификация: приложението вписва ли се в категория на риска, която вече съществува, или изисква нова преценка. После: какво трябва да се документира, за да се докаже, че организацията знае какво работи и защо. Точно на това отговаря какво трябва да документирате за всяко приложение — не като допълнителна бюрокрация, а като минималната документация, необходима, за да се разграничи пилотен проект от риск.
Пробна инсталация, която издържи тази проверка, може да продължи да съществува, вече с собственик и класификация. Пробна инсталация, която не издържи проверката, трябва да бъде постепенно изведена от употреба — но това е контролиран процес, не наказание за човека, който я е стартирал.
Пробната инсталация, която никога не е спряна, е една от формите на по-широк модел. Помислете за браузърното разширение с достъп до вашата поща, което някой веднъж инсталирал, за да спести време, или за фирмени данни, които попадат в безплатен чат прозорец, защото това било по-бързо от официалния инструмент. Всички тези ситуации имат обща черта: възникнали са от практическа нужда, не от политическо решение, и продължават да съществуват, докато никой не попита за тях.
Списъкът на IT отдела с одобрен софтуер затова не е изходната точка на инвентаризацията — той е началото на търсенето на онова, което остава извън този списък. Който иска да разбере как изглежда това търсене, ще намери подход в как да изградите инвентар на изкуствения интелект.
Пробна инсталация, която излиза на бял свят, обикновено поражда следващ въпрос, който отива по-далеко от управлението: защо всъщност това е работило толкова добре, че никой не се е осмелил да го спре? Това е въпрос за самата работа, не само за риска. Работният скенер на FTE TO AI изчислява за всяка задача какъв дял от работата може да бъде поет от изкуствен интелект, и по този начин прави видимо онова, което пробната инсталация вече показваше имплицитно: че част от работата може да бъде организирана по различен начин. Докато Responsible AI Scan показва какво работи и под какъв риск, работният скенер показва откъде идва това използване и какво означава то структурно за разпределението на задачите.
Responsible AI Scan, с инвентаризацията, класификацията и набора от инструменти за управление, описани по-горе, е в процес на разработка. Който вече се сблъсква с това и иска да бъде информиран веднага щом инструментът стане достъпен, може да се запише в списъка на чакащите.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.