Въпросът дали едно AI приложение във вашата организация се счита за високорисково, не е въпрос, на който отговаряте веднъж и после отмятате. Той е резултат от няколко фактора, които заедно определят колко тежко тегли едно приложение. Ако един от тези фактори се промени, вероятно се променя и класификацията. Това прави класификацията на риска по-малко въпрос на попълване и повече въпрос на текущо следене.
Тази страница описва механизма зад тази класификация: от какво зависи и какво се случва, когато ситуацията се промени. Актуалните законови определения и прагове са описани на друго място; тук става дума за това какво трябва да можете да видите и докажете в собствената организация.
Няколко фактора играят структурна роля при въпроса дали едно приложение тегли тежко.
Първият е областта, в която се използва приложението. Някои области — да вземем решенията за хора, техните възможности или техните права — тежат по-тежко от приложения, които са само вътрешни и подпомагащи. Какво точно прави приложението в тази област също прави разлика: система, която дава съвет, тежи различно от система, която взема решение автоматично.
Вторият фактор е ролята, която играе вашата организация спрямо системата. Изграждате ли я самостоятелно, купувате ли я, или използвате услуга, в която е вградено AI, без да сте я закупили именно като такава? Ролята, която изпълнявате — доставчик или потребител — определя отчасти какви задължения лежат на вашите плещи и коя част от отговорността остава при доставчика.
Третият фактор е какво се случва с модела след първоначалното въвеждане. Система, която се използва без промени такава, каквато е предоставена, е различна ситуация от система, която финотюнвате, преконфигурирате или оставяте да се учи върху собствени данни. Какво се променя, когато сами адаптирате модел е следователно въпрос, който трябва да се отговори отделно — адаптацията може да прехвърли системата в друга категория.
Четвъртият фактор е обхватът: колко хора са засегнати, с каква честота и колко обратима е грешка. Приложение, което се използва инцидентно от малък екип, тегли различно от приложение, което всеки ден влияе върху решения за хиляди клиенти.
Тези фактори не са статични. Приложение, което днес се счита за ограничен риск, може утре да не бъде такова — не защото правилата са се променили, а защото самото приложение се е променило. Пилотен проект, който се разраства до цялата организация, вътрешен инструмент, който започва да засяга процес с клиенти, модел, който се дообучава върху нови данни: всяка от тези стъпки може да преобърне класификацията.
Това означава, че класификацията не е еднократно упражнение. Тя е въпрос, който трябва да се поставя отново всеки път, когато нещо се промени в това какво прави една система, кого засяга или кой я управлява. Структура за управление (governance), която не следи това, изостава от практиката.
Не всяко AI приложение трябва да премине през целия този процес. Част от това, което работи в организацията, попада извън обхвата на класификацията на риска — например защото не засяга решения за хора или защото има само подпомагаща, а не определяща функция. Къде точно минава тази граница и кои приложения попадат извън обхвата зависи от същите фактори, описани по-горе: област, роля, адаптация и обхват. Това не е отделен списък, а другата страна на същата преценка.
Класификацията сама по себе си не променя нищо. Тя единствено определя какви следващи стъпки са необходими и с каква неотложност. Някои действия са необходими веднага, други могат да се планират — и какво трябва да се случи сега и какво може да се планира отново зависи от колко тежко тегли приложението и колко хора засяга.
За да направите тези стъпки видими и проследими, решенията за класификация и последващи действия трябва да се фиксират някъде — не като отделни бележки, а като част от списък с решения за надзор, който показва кой какво е решил и на базата на каква информация. Без тази документация класификацията е моментна снимка, която никой повече не може да реконструира.
Този въпрос за класификация може да бъде отговорен добре само ако е известно какво реално работи. ИТ списък с одобрени инструменти не е достатъчен за това: голяма част от употребата възниква извън този списък, в екипи, които са започнали да използват инструмент, без да го съобщят никъде. Кой иска да картографира тази употреба, трябва да попита за нея — и само ако това се прави без последствия, иначе отговор не идва.
Веднъж като стане ясно какви приложения има и колко тежат, се появява следващ въпрос, който вече не е за риск, а за работа: коя част от една задача може да поеме AI система и коя част остава работа за хора. На този въпрос отговаря work-скенерът на FTE TO AI, който за всяка задача изчислява коя част от работата може да бъде поета — друг ъгъл на разглеждане от класификацията на риска, но такъв, който се основава на същата инвентаризация.
Тази страница описва механизма зад класификацията. Самият Responsible AI Scan е в разработка; който иска да използва резултатите му, щом станат достъпни, може да се запише за списъка на чакащите.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.