Въпросът кои приложения остават извън обхвата звучи като въпрос за списък. Не е. Дали нещо попада в или извън обхвата, е класификация, която зависи от това какво прави приложението, в какъв контекст и за кого. Една и съща технология може при едно приложение да остане извън поглед, а при друго да попадне под пълно внимание. Затова не съществува фиксиран списък на изключени приложения — съществуват няколко фактора, които определят класификацията.
Първият фактор е функцията на приложението: какво решава или препоръчва системата и за кого това има последици. Инструмент, който преработва вътрешен текст, стои различно от инструмент, който съучаствува в решение по заявление, кандидатура за работа или претенция. Вторият фактор е нивото на риск, свързано с тази функция: колкото по-големи са последиците за хората, толкова по-вероятно е приложението да се придвижи към по-тежката част от спектъра. Третият фактор е ролята на самата организация: кой само използва система, се оценява различно от кой я адаптира, допълнително обучава или съставя от компоненти на други. Какво точно означава това разпределение на роли и кога то се променя, е описано на страниците за разграничението между доставчик и потребител на система с изкуствен интелект и за момента, в който ролята на потребител преминава в друга отговорност.
Четвъртият фактор е технически по природа, но юридически релевантен: това, което организацията сама променя в съществуващ модел, понякога изменя позицията на тази организация в цялостната картина. Модел, който е закупен без изменения, стои различно в картината от модел, който е финетюниран върху собствени данни или вграден в собствен процес. Тази граница — кога адаптирането води до промяна на роля — е разгледана на страницата за това какво се променя, когато модел бива сам адаптиран.
Тъй като класификацията зависи от тези фактори, обхватът не е постоянна характеристика на инструмент, а резултат, който може да се измени. Чатбот, който е започнал като вътрешен помощник за писане, може, веднага щом започне да отговаря и на клиентски въпроси, водещи до решение, да попадне в друга част от спектъра. Модел, който е бил закупен като готов продукт, може, след адаптиране върху собствени данни, да доведе до различна роля за организацията. Приложение, което днес се счита за нискорисково, може утре да натежи повече, защото контекстът, в който се използва, се е променил — друг екип, друго решение, друга група хора, засегната от резултата.
Това е точно причината, поради която еднократна класификация не е достатъчна. Класификация, фиксирана в момента на въвеждане, не казва нищо за това какво прави инструментът година по-късно. Какво трябва да влезе в обхвата днес и какво може да се планира за по-късно, е следователно самò въпрос, който зависи от актуалната ситуация — разработен на страницата за реда между това, което изисква внимание сега, и това, което може да следва по-късно.
Класификацията в и извън обхвата се усложнява от практически проблем: официалният списък на закупени или одобрени инструменти не е същият списък като инструментите, които действително се използват. Екипи започват да използват функционалност с изкуствен интелект, без да я пускат през процес на заявка — не от неохота, а защото е леснодостъпна и решава проблем. Този сенчест изкуствен интелект е точно частта, която прави класификацията в или извън обхвата невъзможна, докато никой не знае, че приложението съществува.
Кой иска да допълни тази картина, трябва да попита за нея — и то без въпросът да звучи като скрит упрек. Веднага щом служител заподозре, че честен отговор ще доведе до санкция, отговорът остава неизказан и инструментът продължава да е под радара. Инвентаризация, изградена върху разчистване на сметки, следователно по дефиниция дава непълна картина — а непълна картина прави всяка класификация в обхвата временна.
Тъй като обхватът може да се измени, записването на класификацията е поне толкова важно, колкото самата класификация. Кой е решил, че приложение остава извън обхвата, на базата на каква информация и в кой момент — такива въпроси стават неотговаряеми, щом записването липсва. Как организация прави този тип решение подредим и подлежащ на проследяване, е описано на страницата за списък с решения, който прави решенията за надзор проследими, а как тази класификация разпознаваемо се отразява в документа, който служителите действително ползват — на страницата за политика по изкуствения интелект, която се съгласува с това, което хората реално правят.
Въпросът за класификацията — какво попада в обхвата и какво не — се отнася до риск и отговорност, не до това какво приложението означава за самата работа. Този втори въпрос — какво точно от една задача може да се предаде на изкуствен интелект — е отделна сметка. Работният скан на FTE TO AI изчислява за всяка задача каква част от работата може да бъде поета, независимо от въпроса как това приложение попада в класификацията на управлението.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.