Организациите често смятат, че тяхната роля е фиксирана: ние сме потребител, доставчикът е доставчик, край на въпроса. Това предположение редовно не е вярно, или е вярно днес, но утре вече не. Ролята, която организацията има спрямо система с ИИ, не е постоянна характеристика на организацията. Тя е резултат от това какво се случва със системата: кой я създава, кой я адаптира, кой я пуска на пазара и под какво име. Ако един от тези фактори се промени, е възможно да се промени и ролята, а с това и произтичащите от нея задължения.
Това прави класификацията не еднократен снимък във времето. Роля, която е била правилно определена при закупуването, може година по-късно да е неточна, без вътрешно да е взето съзнателно решение за това.
Класификацията зависи от ограничен брой фактори, но не всички тези фактори са в ръцете на страната, която използва системата. От значение е, наред с другото, дали система е разработена самостоятелно или е закупена, дали закупената система се използва без промени или е адаптирана, и дали адаптацията засяга рисковия профил на системата. От значение е и под какво име система се предлага навън: система, която се препродава или доразвива под собствена марка, може да носи различна роля от пускането на външен продукт без промени. За точната граница между тези две позиции е релевантна страницата за какво се променя, когато организация сама адаптира закупен модел, а за основния въпрос коя от двете главни роли е приложима, съществува страницата, която обяснява от какво точно зависи изборът между доставчик и потребител.
Класификацията следователно не е нещо, което организацията определя веднъж и после архивира. Тя е класификация, която трябва да се преоценява всеки път, когато основните факти се променят.
Ако ролята се промени, се променя и това, което се очаква от организацията. Страна, която е чист потребител, има различни задължения от страна, която (съ)отговаря за създаването на система. Това засяга не само документацията. То засяга и къде в организацията трябва да лежи отговорността за система, кой докладва за нея и какво ниво на надзор е подходящо.
Това изместване се пренася и върху въпроса колко тежко трябва да се преценява система вътрешно. Промяна на ролята може да доведе до това система, която преди се е считала за управляема, да трябва да се преоцени по ниво на риск — въпрос, разгледан отделно на страницата за какво означава високо ниво на риск за организацията, която използва или предлага системата. Обратно, промяна на ролята може също да доведе до това система да попадне извън обхвата на определени задължения, или точно да попадне в него. Кои приложения точно попадат извън обхвата и кои точно не, е обяснено на страницата за кои видове приложения на ИИ попадат извън обхвата на задълженията.
Факторите, които причиняват промяна на ролята, обикновено се разиграват на ниво, на което ръководството, юридическия отдел или управлението на риска нямат автоматична видимост. Екип, който фина настройка (finetune) на закупен модел върху собствени данни. Отдел, който препраща външен чатбот продукт към клиенти под собствено име на продукт. Интеграция, която комбинира модел на доставчик със собствени правила и след това предлага тази комбинация навън. Никоя от тези стъпки не минава автоматично през централен регистър, а списъкът на одобрените инструменти на ИТ отдела обикновено не отчита този тип промяна, защото промяната не се разпознава като „ново закупуване“, а като адаптация на нещо, което вече е било одобрено.
Това е причината, поради която промените на роля често стават видими само когато нещо се обърка, или когато отвън се поиска отчетност. Тогава въпросът „каква е нашата роля при тази система“ се отговаря с обратна сила, в момент, когато пространството за корекция е по-малко, отколкото ако въпросът беше зададен по-рано.
Тъй като класификацията може да се измества, разграничението между това, което изисква внимание в момента, и това, което трябва да се преоцени по-нататък, е релевантно за планирането на работата по управление. Не всичко, което промяна на роля носи със себе си, изисква незабавно действие; част от него може да се планира. Каква част е това, и каква част не може да чака, е разгледано на страницата за какво трябва да се поеме сега и какво може да се планира за по-късен момент. За кратко обобщение на самия въпрос за класификацията, включително най-важните повратни точки, съществува страницата, която задълбочено разглежда точните обстоятелства, при които се променя роля.
Въпросът каква роля има организацията спрямо система с ИИ е близък до друг въпрос, който рядко получава същото внимание: каква част от действителната работа в организацията вече се извършва от ИИ, се планира да се извършва, или без някой да го е фиксирал, вече се поема. Докато въпросът за ролята се отнася до отговорност спрямо система, сканирането на работата на FTE TO AI се отнася до разпределението на самите задачи: за всяка задача се изчислява каква част може да се поеме от ИИ, независимо от каква роля организацията формално заема при това. Тези два въпроса се допират, защото изместване в разпределението на задачите често е поводът за изместване в роля.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.