re-ai-gov В списъка на чакащите

Kennisbank

Какво трябва да се направи сега, и какво може да се планира

Не всяко AI-приложение в организация изисква еднаква скорост. Някои неща изискват незабавно внимание, други могат да бъдат включени в нормален цикъл на планиране. Проблемът е, че тази класификация рядко се прави изрично. Без класификация всичко получава еднаква неотложност, или — по-често — никаква неотложност.

От какво зависи класификацията

Въпросът дали нещо трябва да се направи сега или може да почака, не е въпрос на предпочитание. Той зависи от редица фактори, които заедно определят колко тежко тежи едно приложение.

Нивото на риск на приложението е първият фактор. Система, която взема решения за хора — наемане, отпускане на кредити, достъп до услуги — тежи различно от инструмент, който обобщава текст за вътрешна употреба. Какво точно означава високо ниво на риск за задълженията на организация, и защо това не е еднакво за всяко приложение, е описано на какво означава високо ниво на риск за вашата организация.

Ролята на организацията е втория фактор. Организация, която сама разработва или адаптира AI-система, носи различни отговорности от организация, която използва готова система. Освен това тази роля може да се промени без съзнателно решение за това: който прецизира (finetune) модел, го адаптира или го използва по начин, различен от предвиденото, може по този начин да се премести от потребител към доставчик. Къде минава тази граница, е обяснено на какво се променя, когато сами адаптирате модел и на сте ли доставчик или потребител, от какво зависи това.

Третият фактор е дали приложението попада в обхвата. Не всяка система, наречена AI, попада под едни и същи задължения; някои приложения са изключени или попадат под по-лек режим. Кои приложения попадат извън обхвата и защо, е описано на кои приложения попадат извън обхвата.

Тези три фактора — ниво на риск, роля, обхват — заедно определят къде попада приложението в графика. Приложение с висок риск, при което организацията действа като доставчик, изисква различна скорост от приложение с нисък риск, което скоро може да попадне извън обхвата.

Какво се променя, когато ситуацията се променя

Класификацията не е постоянна. Приложение, което днес се счита за управляемо, може утре да не бъде такова — не защото правилата се променят, а защото самото приложение се променя. Модел, който се адаптира, система, която получава нова задача, инструмент, който преминава от вътрешен пилот към производство: всяка от тези стъпки може да промени ролята или нивото на риск.

Организационните промени също играят роля. Сливане, нов доставчик, разширяване на употребата към друг отдел — всички тези събития могат да преместят приложение, което преди се считаше за „може да се планира“, към „трябва сега“. Кога се променя роля и къде точно е тази граница, е разработено на кога се променя вашата роля, от какво зависи това.

Това означава, че еднократна класификация не е достатъчна. Това, което днес е планирана точка от дневния ред, може чрез промяна другаде в организацията да получи различна тежест. Затова редовната, периодична преоценка е част от всяка класификация, която трябва да устои — не като допълнителна стъпка, а като условие за поддържане на класификацията актуална.

Какво дава класификацията

Ясна класификация предотвратява две противоположни грешки. Първата е, че всичко се третира като неотложно, при което приоритетите се размиват и вниманието се разпилява върху приложения, които носят малък риск. Втората е, че нищо не се вижда като неотложно, при което приложения с реален риск остават извън полезрението години наред — често защото никой никога не ги е класифицирал.

Самата класификация не е еднократен документ, а структура, която се движи заедно с организацията. Тя дава преглед на това, какво изисква внимание в краткосрочен план, какво може да бъде включено в редовен процес, и — от съществено значение — какво трябва да бъде преоценено отново, щом ситуацията се промени. Точно това разграничение, и въпросът от какво зависи то, е разработено допълнително на какво трябва да се направи сега и какво може да се планира, от какво зависи това.

От класификация към преглед

Тази класификация предполага, че е известно какви приложения съществуват. На практика това далеч не винаги е така. Освен системите, одобрени чрез ИТ или обществени поръчки, в почти всяка организация работят инструменти, които никой не е поискал и никой не е регистрирал — асистент за таблици тук, генератор на текст там, използвани от хора, които искали да решат проблем и не искали да преминат през процедура. Този сенчест AI не се появява в ИТ списъка, и който попита за него, без нещо да е заложено на карта за потребителя, по-скоро получава честен отговор от онзи, който веднага заплашва със санкция. Без тази инвентаризация всяка класификация по неотложност е класификация само на част от действителността, не на цялото.

Мостът към работния анализ (werkscan)

Тази страница се занимава с класификация: какво тежи много, какво тежи малко, какво изисква внимание сега и какво може да почака. Друг, допълнителен въпрос е какво действително дава AI-приложение в рамките на задача. Работният анализ на FTE TO AI изчислява за всяка задача каква част от работата може да бъде поета от AI, и предлага по този начин конкретна картина наред с класификацията за управление: не само дали приложение носи риск, но и какво то допринася за самата работа.

Responsible AI Scan (Скенер за отговорен AI) е в процес на разработка. Който иска да използва инвентаризацията, класификацията и пакета за управление веднага щом станат достъпни, може да се запише в списъка на чакащите.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.