Екип иска да работи по-бързо и активира AI-инструмент, обикновено за да тества нещо конкретно: обобщение, първи концепт, класификация. Няма процедура за одобрение, защото това е "само тест". Тестът работи, или работи достатъчно добре, и се вгражда в ежедневния процес, без да е взето решение да се запази. Никога не е имало момент, в който някой съзнателно да е избрал: включваме това в нашата AI-инвентаризация, за това има собственик, това попада под това ниво на риск. Имало е само момент на започване, и този момент се вписва трайно в начин на работа, който никой повече не е докоснал.
Спирането на пилотна инсталация изисква решение. Продължаването не изисква нищо. Докато никой не докладва инцидент или външна страна не поиска доказателство за контрол, няма повод да се преразгледа нещо, което вече отдавна е станало обичайна работа. Хората, които използват инструмента, нямат интерес да го изтъкват: той работи, спестява време, а докладването се усеща като риск от отнемане. Така временно решение остава структурно, не защото никой не знае, а защото никой не задава въпроса, който би довел до спиране.
Логично е да се смята, че преглед на одобрен софтуер прави това видимо. Този преглед показва какво е закупено, не какво се използва. Пилотна инсталация често минава извън този канал: безплатен акаунт, разширение за браузър, отделен абонамент на екипна карта. Същият модел се наблюдава при разширение за браузър с достъп до вашата поща, при отдел със собствен абонамент извън централните доставки, и при бизнес данни, поставени в безплатно чат-прозорче, без зад тях да стои договор с условия за обработка на данни. Нито една от тези ситуации не фигурира в ИТ-списък, защото никоя от тях никога не е била регистрирана като проект.
Единият начин да разберете какво реално работи, е да питате. Не като последваща проверка, а като отваряне: какво използвате, за какво и от кога. Който задава този въпрос с фонова заплаха от санкции, не получава отговор или получава непълен отговор. Служителите, които използват инструмент, който никой не е одобрил, имат какво да загубят от откровеността и нищо да спечелят. Точно това напрежение е в основата на служители, които използват инструмент, който никой не е одобрил: без покана, на която е безопасно да се отговори, пилотната инсталация остава подземна и не изчезва, само става по-тиха.
Инвентаризация без последствия за докладващия е първата стъпка, не заключението. След направянето на видимостта следва класификация: какво е това, каква роля играе в процес и какво ниво на риск му подхожда. Инструмент за обобщаване на вътрешни бележки изисква различен режим от инструмент, който съучаствува в решения за приемане на клиенти или оценка на персонал. Тази класификация трябва да се вписва в съществуващата структура за риск, не в нова рамка отделно. Втори, неформален процес, който се игнорира редом с вече съществуващия, е точно причината, поради която втори процес редом със съществуващия се игнорира е разпознаваем модел: хората следват пътя с най-малко съпротивление, и този път става видим само когато някой попита за него.
След това идва въпросът кой все още го наблюдава. Пилотна инсталация, която е пусната свободно в ежедневната работа, обикновено вече няма собственик, който да оценява резултатите преди да бъдат използвани. Тук става релевантно какво означава човешки надзор на практика: не като абстрактен принцип, а като конкретен въпрос кой прочита резултата преди той да засегне клиент, досие или решение.
Ръководител, който е разпитван за това — от регулаторен орган, одитор, надзорен съвет — има два варианта: да каже, че прегледът е пълен, или да каже, че съществува процес, който прегледа прави и поддържа пълен. Втората опция е по-честна и в дългосрочен план по-силна, защото организация, която активно инвентаризира, има нещо доказуемо, дори когато инвентаризацията все още не е завършена. Въпросът не е, че вече никога няма да се появи неоторизирана пилотна инсталация. Въпросът е, че съществува механизъм, който ги открива преди инцидент да го направи вместо вас.
Когато веднъж стане видимо какъв AI е възникнал непланирано, често се появява друг въпрос: ако този екип вече е правил това, без никой да го организира, какво би се случило, ако наистина го организираме? Това е различен въпрос от управлението (governance), и той се вписва в работния скенер на FTE TO AI, който за всяка задача изчислява каква част от работата разумно може да бъде поета от AI. Докато тази страница описва как да получите контрол върху вече работещото, този скенер описва какво още може да бъде изградено, със същия трезв поглед към задачи и рискове.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.