Много организации приемат, че класификацията доставчик или потребител е еднократна: система се закупува отнякъде и с това ролята на вашата организация е определена. На практика това е по-нюансирано. Ролята, която имате по отношение на дадена AI-система, зависи от това какво правите с нея, а не от къде идва системата. Една и съща организация може за една система да бъде потребител, а за друга — без някой да го е нарекъл така — доставчик.
Ключовият въпрос не е кой е изградил системата, а кой я пуска на пазара или я използва под собствено име. Организация, която закупува готова AI-система и я използва за собствения си процес, обикновено е потребител. Веднага щом същата организация адаптира, доразработва, преетикетира система или я предлага на други под собствено име, тази картина се променя. Значение има и степента на контрол върху модела: кой определя с какви данни се обучава, кой задава параметрите, кой носи отговорност за поведението на системата в реална употреба. Тези въпроси не се отговарят еднократно при закупуването, а остават релевантни, докато системата е в употреба.
Ролята на организацията следователно не е фиксиран етикет, а резултат от фактическото използване. Това означава, че вътрешни промени — ново приложение на съществуваща система, адаптация от собствения ИТ отдел, предоставяне на AI-функция на клиент или дъщерна организация — могат да променят класификацията, без да е предшествано от формално решение. Какво означава това на практика и в какъв момент ролята действително се променя, е разгледано по-подробно на страницата за момента, в който вашата роля по отношение на AI-система се променя. Важно е, че тази промяна често остава незабелязана, защото се случва на равнище отдел, далеко от мястото, където се определя политиката.
Въпросът дали сте доставчик или потребител не стои сам по себе си. Той е свързан с въпроса какво ниво на риск има дадено приложение, и с въпроса дали приложението попада в обхвата на регулацията. Система, която се използва като потребител с ниско въздействие, може да изисква различно третиране от случая, когато същата организация допълнително адаптира системата и по този начин се приближава до ролята на доставчик. Какво конкретно означава по-високо ниво на риск за самата организация, е описано на страницата за какво означава високо ниво на риск за собствената организация. Освен това не всяко приложение попада в обхвата на едните и същите изисквания; кои приложения остават извън обхвата и от какво зависи това, е описано на страницата за кои приложения остават извън обхват.
Причината, поради която тази класификация остава неясна за много организации, не е липсата на правила. Актуалният текст и точните критерии се намират другаде и не се променят от този текст. Проблемът е преди това: за да се знае каква роля се прилага, първо трябва да е известно кои AI-системи действително се използват, от кого и с каква степен на адаптация. Тази инвентаризация липсва в повечето организации. Официалният списък с одобрени от ИТ инструменти рядко описва какво действително се използва. Отдели започват да използват инструменти, адаптират модели със собствени данни или вграждат AI-функция във вътрешен процес, без това да се документира централно никъде. Който иска да разбере дали организацията е доставчик или потребител, трябва първо да знае какво се използва — а това е въпрос, на който не се отговаря с политически документ, а с инвентаризация, която се осмелява да пита хората какво използват, без това да е свързано с последствия.
Тъй като ролята на организацията може да се промени без формално решение, е важно за управлението и надзорните органи отчетите да отразяват тази динамика. Подход на управление, който предполага статично разпределение на ролите, пропуска момента, в който вътрешна промяна фактически поставя организацията в друга позиция. Как AI-политиката може да бъде изготвена така, че да показва такива промени вместо да ги скрива, и да бъде действително прочетена от отговорния за нея, е разгледано на страницата за AI-политика, която се свързва с практиката, а не остава в шкафа.
Въпросът дали вашата организация е доставчик или потребител се отнася до отговорност и задължения. Той все още не казва нищо за това какво означава AI за самата работа: кои задачи се поемат, изменят или подпомагат от нея. Този въпрос е продължение на определянето на ролята, но изисква различен поглед — не към управлението, а към същината на работата. Работният скенер на FTE TO AI изчислява за всяка задача каква част от работата може да бъде поета от AI, независимо от каква роля организацията заема по отношение на основната система.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.