Kennisbank

Какво остава извън обхват и кога това вече не е така

Въпрос, на който всеки отговаря твърде бързо

В много организации съществува фиксиран списък от приложения, за които се смята, че „остават извън обхват“. Текстово предложение в текстов редактор, спам филтър, чатбот, който отговаря само въз основа на фиксирани често задавани въпроси. Предположението е, че тези приложения са твърде малки, твърде стари или твърде безобидни, за да попадат под управление (governance). Това предположение понякога е вярно. То не е винаги вярно, и рядко остава вярно за постоянно.

Дали нещо остава извън обхват не е свойство на технологията. Това е класификация, която следва от това какво прави системата, за кого и с какъв ефект, ако нещо се обърка. Едно и същo текстово предложение, което днес остава извън обхват, защото само предлага дума на служител, утре може да попадне в обхват, ако автоматично завършва и изпраща имейли без човешка намеса.

От какво зависи класификацията

Три фактора заедно определят дали дадено приложение попада в обхват или остава извън него.

Първият е функцията: взема ли системата решение, или само предоставя информация, която човек оценява? Инструмент, който класира кандидати за работа, е по-близо до обхвата от инструмент, който само прави автобиографиите търсими. На какво точно място в този спектър се намира дадено приложение и защо, можете да прочетете в анализа на какво означава високо ниво на риск за вашата организация.

Вторият фактор е ролята на самата организация. Кой купува система и я използва без промени, застава в различна позиция от този, който я изгражда, обучава или адаптира сам. Едно и същo приложение може да остане извън обхват за една организация и да не остане за друга, единствено въз основа на кой носи каква отговорност. Това разграничение е разработено в въпроса дали сте доставчик или потребител и се променя веднага щом някой в организацията адаптира или преобучи модел, както е описано в какво се променя, когато сами адаптирате модел.

Третият фактор е времето. Система, която сега остава извън обхват, може да не бъде такава година по-късно — не защото правилата са се променили, а защото употребата се е променила. Чатбот, който е започнал като информационен ресурс, може да се разрасне до система, която обработва жалби. Ролята на екип или отдел спрямо такава система тогава се измества съответно, а когато точно се случва това, е описано в кога се променя вашата роля и от какво зависи това.

Какво означава това на практика

Следствието от тези три фактора е, че „извън обхват“ никога не е постоянен статус. Това е моментна снимка, която трябва да се преразглежда веднага щом функцията на системата се промени, веднага щом организацията получи различна роля спрямо тази система, или веднага щом употребата се разшири до нещо, което не е било предвидено при закупуването.

Точно тук сенчестият ИИ нарушава класификацията. Приложение, отбелязано в ИТ-списъка като „извън обхват“, на практика може да се използва по начин, който вече не съответствува на това. Екип, който използва езиков модел за чернова на комуникация с клиенти, може също да го използва за изпращане на окончателни отговори без да съобщава за това. Класификацията на хартия и употребата на практика тогава се разминават, и никой, който гледа само закупените лицензи, не вижда тази разлика.

Единият начин да се получи представа за това е да се питат хора. Не система, а хората, които я използват. Това работи само ако задаването на въпроси не е равносилно на санкции: който се страхува от последствия, приспособява отговора си или не дава такъв. Класификация, която се основава единствено на закупени лицензи, следователно систематично пропуска приложенията, възникнали от практическа употреба — а те често са точно приложенията, за които никой вече не знае дали остават извън обхват или отдавна са дълбоко в него.

Обхватът е резултат, не изходна точка

Въпросът „остава ли това извън обхват“ следователно не може да се отговори отделно от въпроса какво точно се случва, кой решава за това и колко дълго тази ситуация е такава. Инвентаризация, която фиксира тези три фактора за всяко приложение, дава класификация, съответстваща на действителната ситуация, а не на предположението, с което дадена система някога е била закупена. Какво изисква внимание вече сега и какво спокойно може да се планира, зависи от същите фактори и е разгледано в разграничението между какво трябва сега и какво може да се планира.

От класификация към разбиране на самата работа

Веднага щом стане ясно кои приложения попадат в обхват и каква роля играе вашата организация в това, възниква следващ въпрос, който не се отнася до управление (governance), а до самата работа: каква част от една задача всъщност се поема от такова приложение, и каква част остава човешка работа? На този въпрос govern сканирането не отговаря. За това е предназначено работното сканиране на FTE TO AI, което пресмята за всяка задача какъв дял от работата може да бъде поет от ИИ и по този начин дава представа за реалната употреба, скрита зад класификацията.