Човешкият надзор често се залага като роля: някой, който носи отговорност, име в регистър, отметнато квадратче. Това е началната точка, не самият механизъм. Надзор възниква едва когато има момент, в който човек може да види резултата от приложение на AI, да го разбере и да го коригира, преди този резултат да стигне някъде. Без този момент името под класификацията е формалност.
Дали надзорът работи на практика зависи от няколко неща, които не се съчетават сами по себе си. Трябва да има някой, който има правомощието да спре резултат, не само задачата да го гледа. Трябва да има време за преглед, което означава, че процесът не е устроен така, че резултатът от AI вече да е обработен, преди да се извърши проверката. И трябва да има достатъчно разбиране за това какво прави приложението, за да се разпознае отклонение. Проверяващ, който не може да оцени резултата, не упражнява надзор, дори ролята да е формално възложена.
Това се свързва с какво означава грамотността относно AI за вашите служители: надзор без разбиране на основното приложение е надзор само на хартия.
Структура за управление може да определи кой за какво носи отговорност, какво ниво на риск има дадено приложение и какви стъпки съответстват на това. Какво структурата не прави, е да гарантира, че този човек действително оценява резултата в момента, когато това има значение. Това е организационен факт, не технически факт. Класификация може да е правилна и надзорът да е въпреки това празен, защото лицето, което на хартия носи отговорност, няма времето, достъпа или познанията да провери резултата.
Инвентаризацията и класификацията разкриват къде този риск е най-голям: при приложения с по-високо ниво на риск, или при приложения, които са влезли извън обичайния ИТ-процес. Тази последна група често е най-трудната, защото който иска да организира надзор върху нещо, което не е в администрацията, първо трябва да го намери. Това засяга въпроса какво правите със служители, които използват инструмент, който никой не е одобрил: надзорът върху сенчестия AI започва с признаването, че такова приложение съществува, не със санкция за използването му.
Приложение, което днес е под надзор, може утре да се е променило. Модел се актуализира, входните данни се променят, или използването в организацията нараства от проста задача до нещо с по-голяма тежест. Надзор, устроен според ситуацията отпреди година, вече не съответства на това, което се случва сега. Това е една от причините, поради които класификацията не е еднократно упражнение; колко често трябва да се повтаря зависи от нивото на риск и степента, в която приложението се променя, както е разработено в колко често трябва да класифицирате отново.
Това означава също, че регистър има стойност само ако се поддържа. Инвентаризация, съставена при първото сканиране и след това вече не актуализирана, дава все по-неточна картина на къде е необходим надзор. Въпросът как една организация поддържа този регистър актуален е отделен от въпроса как е изграден регистърът, и заслужава собствено внимание: вижте как поддържате AI-регистър актуален.
Управителен орган, който е поканен да докаже, че има надзор върху използването на AI, не може да се задоволи със списък на роли. Доказуемостта изисква следа: кой е разгледал какъв резултат, в какъв момент, с какво правомощие да коригира. Тази следа е важна и в момента, когато нещо се обърка. Въпросът кой носи отговорност, когато приложение на AI направи грешка, не се отговаря само от класификацията, а от доказуемия надзор, който я е последвал. Тези две неща лесно се бъркат, докато разграничението е важно; вижте кой носи отговорност, когато приложение на AI направи грешка.
Надзорът засяга и това какво се въвежда в приложение. Служител, който поставя фирмени данни в безплатен чат-прозорец, поставя тези данни извън всякакъв надзор, който организацията е установила, независимо колко добре е организиран надзорът върху одобрените приложения. Това е отделна област на внимание в рамките на по-широкия въпрос, разработена под какво правите с фирмени данни в безплатен чат-прозорец.
Тази страница описва как работи надзорът като механизъм: кой гледа, кога, с какво правомощие, и как това се прави доказуемо. Съдържателните норми, които определят кога надзорът е задължителен, колко строг трябва да бъде този надзор според категорията на риска, и в какви срокове трябва да бъде организиран, не са тук. Това регулаторно съдържание се променя и се поддържа актуално другаде.
Организирането на надзор върху задача е смислено само ако е ясно какво точно съдържа тази задача и коя част от нея се извършва от приложение на AI. Това е различен въпрос от това каква роля или какво ниво на риск има приложение; става дума за самата задача, разделена на стъпките, които приложение на AI може да поеме, и стъпките, които не отговарят на условията за това. Работният скенер на FTE TO AI изчислява това за всяка задача, така че става видимо коя част от работата може да бъде поета и коя част трябва да остане в обхвата на човешкия надзор.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.