Kennisbank

Кога се променя вашата роля и от какво зависи това

Много организации приемат, че тяхната роля е фиксирана: те са потребител на система, изградена от доставчик, и свързаните с това задължения са ясни и постоянни. Това предположение често е правилно, но не винаги. Ролята, която организацията има по отношение на система с ИИ, не е фиксиран етикет. Тя е резултат от това, какво реално се случва със системата, и този резултат може да се промени без да се подписва нов договор или да се извършва нова покупка.

От какво зависи класификацията

Класификацията на роля зависи от редица фактически елементи, а не от начина, по който доставчик нарича системата или как вътрешен отдел позиционира системата вътрешно. От значение е, наред с другото, кой е пуснал системата на пазара, кой реално използва системата в рамките на собствен процес, и кой е адаптирал системата след доставката. Значение има също под какво име системата се представя навън, и дали организация препредава системата на други, без самата да я използва. Тези елементи заедно определят дали организацията действа като доставчик, като потребител, или като страна, която попада някъде между двете.

Причината, поради която това е важно за управлението (governance), е че ролята определя кои задължения се отнасят за коя страна. Организация, която е само потребител, носи различни отговорности от организация, която реално действа като доставчик. Какво точно се очаква от всяка роля, е описано на друго място; тук става дума за механизма, който определя коя роля се прилага, и за разпознаването на момента, в който този механизъм дава различен резултат от преди.

Какво се променя, когато ситуацията се промени

Ролята не е свързана със системата за целия й жизнен цикъл. Тя е свързана с това, какво реално се случва в определен момент. Това означава, че една и съща организация за една и съща система в два различни момента може да попада в различна роля. Няколко ситуации, в които това се случва: екип, който финетюнва закупен модел върху собствени данни, отдел, който преетикетира система и я предлага под собствено име на други отдели, или организация, която препредава система, първоначално предназначена за вътрешна употреба, на клиент или партньор. Във всеки от тези случаи фактическата роля се променя, дори ако отвън се променя малко.

Това, което на практика се променя, не е абстрактно. То определя кой носи отговорност за документацията, кой трябва да докаже, че система прави това, което твърди, че прави, и кой трябва да реагира, ако нещо се обърка. Повече за това какво точно се променя, когато модел бъде адаптиран, е описано на страницата за адаптациите на модел. Тази промяна е един от най-ясните примери за това как ролята се преобръща без да е предшествана от съзнателно решение.

Защо това е важно за управлението (governance)

Причината, поради която тази тема е важна не само от юридическа, но и от организационна гледна точка, е че промяна на роля често се случва незабелязано. Екип, който адаптира модел, мисли за техническо подобрение, не за промяна в отговорността. Отдел, който препраща инструмент на друг отдел, мисли за удобство, не за нова роля като предоставящ. Управление, което гледа само към това, какво е закупено, систематично пропуска тези промени.

Това е свързано с въпроса какви приложения точно попадат в обхвата на регулация и кои не; тази граница е разгледана на страницата за обхвата на приложенията. Система, която е била извън обхват при закупуването й, може да попадне в обхват веднага щом ролята на организацията се промени. Това означава, че еднократна проверка при покупка не е достатъчна; проверката трябва да следва това, какво реално се случва със система.

Също и нивото на риска на едно приложение може да се промени заедно с промяна на роля. Какво точно означава високо ниво на риск за задълженията на организация, и от какво зависи това, е обяснено на страницата за последствията от високо ниво на риск. Организация, която в резултат на промяна на роля внезапно се счита за доставчик на система с високо ниво на риск, носи различни отговорности от когато е била само потребител на същата система.

Как организация разпознава това

За да разпознае промени на роля преди те да станат проблем, организацията трябва да знае какви системи съществуват, кой ги адаптира, и кой ги препраща на кого. Това изисква инвентаризация, която надхвърля списъка, одобрен от ИТ, и определено място, където се документират решения за адаптация, препращане и преетикетиране. Такова определено място, и свързаните с него въпроси, са описани на страницата за списък с решения за надзор.

Responsible AI Scan е създадена, за да направи тези промени видими: кои системи реално работят, кой ги използва, кой ги е адаптирал, и каква роля следва от това в момента. Инструментът, който подпомага това, е в процес на разработка; който желае да го използва, може да се запише в списъка за изчакване.

Промяна на роля не засяга само управлението (governance). Когато система премине от отделно помощно средство към нещо, което структурно поема част от задача, се променя и въпросът колко работа реално извършва тази система и колко остава при хората. Работният скан на FTE TO AI изчислява за всяка задача какъв дял от работата може да бъде поет от ИИ, и по този начин прави видимо къде промяна на роля в управлението съвпада с реална промяна в разпределението на работата.