Kennisbank

Класификацията не е еднократно упражнение

Класификацията на едно AI приложение описва ситуация в определен момент: какъв модел, какво приложение, какви потребители, какъв риск. Тази ситуация се променя. Доставчик променя модел, екип използва инструмент за нещо различно от онова, за което е бил закупен, доставчик добавя функция без някой да поиска съгласие за това. Класификацията, която сте направили миналата година, вследствие на това не описва автоматично вече ситуацията от днес.

Въпросът „колко често“ няма фиксиран отговор, който да важи за всяка организация. Той зависи от колко AI приложения има, колко бързо те се променят, колко разнородни са екипите, които работят с тях, и колко строг е надзорът в сектора, в който работите. Фиксиран годишен момент е начална точка, не гаранция, че няма да пропуснете нищо междувременно.

Какво не решава фиксиран интервал

Годишна или полугодишна преоценка работи добре за приложения, които вече познавате и които са влезли през формален процес. За приложения, които никой не е регистрирал, фиксиран интервал не работи, просто защото няма нищо, което да се преоценява на определена дата. Какво правите с колеги, които използват инструмент, който никой не е одобрил описва защо този въпрос не се решава с повтаряща се среща в календара, а с друг начин на задаване на въпроси към организацията.

Освен това риска се променя не само от това, какво прави едно приложение, но и от това, с какво се захранва. Чат прозорец, който днес се използва за обобщаване на публичен текст, утре може да се използва за обобщаване на договор. Какво правите с фирмени данни в безплатен чат прозорец показва, че нивото на риск на един и същ инструмент може да се измести без самият инструмент да се промени.

Сигнали, които изискват преоценка, независимо от датата

Освен фиксиран момент, има събития, които изискват междинна преоценка. Промяна във функцията на приложение, разширяване на групата потребители, инцидент или „near-miss“, промяна в условията на доставчика, или сигнал от служител, че нещо се използва по различен начин от предвидения. Тези сигнали не са всички еднакво тежки, и не всяка организация ще ги забележи еднакво бързо.

Въпросът кой реагира на тези сигнали и кой носи собствеността върху самата преоценка, е отделен въпрос. Кой носи отговорност, когато AI приложение направи грешка описва, че отговорността често се определя едва в момента, когато нещо се обърка, докато този въпрос по същество трябвало да бъде отговорен още при първата класификация.

Защо втори процес обикновено изчезва по-бързо от процеса, който вече съществува

Ритъм на преоценка, който се поставя редом до съществуващите процеси за риск, без да се интегрира в тях, обикновено губи приоритет в рамките на година. Той е допълнителна стъпка, която никой не иска, докато нещо не се обърка, и точно затова остава изоставен. Защо втори процес редом до съществуващия бива игнориран обяснява защо преоценката работи по-ефективно, когато е вградена в съществуващото управление на риска, вместо като самостоятелен процес, който се конкурира за внимание с останалата част от организацията.

Какво не може методът

Метод за класификация може да предложи структура за последователна оценка на AI приложения по роля и ниво на риск, и тази структура може да се прилага многократно. Това, което методът не може, е да гарантира, че виждате всичко. Класификация е толкова добра, колкото информацията, на която се основава, а тази информация идва отчасти от хора, които може да имат причина да не съобщят нещо. Служител, който използва неодобрен инструмент, не съобщава това сам, ако очаква санкция.

Методът също не може да предвиди кога доставчик ще промени модел, или кога приложение, което днес е с нисък риск, утре ще се използва по различен начин. Затова преоценката остава въпрос на повторение и организиране на откритост, не на система, която се настройва еднократно и след това остава актуална сама. Как да поддържате регистъра актуален, без той след няколко месеца отново да изостане, е описано в как поддържате AI регистър актуален, където разграничението между еднократна инвентаризация и текущ процес е централно.

Тук се включва и въпросът какво означава надзор върху AI на практика между моментите на преоценка: кой наблюдава, с каква честота, и на базата на какви сигнали. Какво е човешки надзор на практика прави разграничение между надзор като формална отметка и надзор като нещо, което непрекъснато следва употребата.

Следващият въпрос, щом класификацията вече е налице

Класификацията ви казва какви приложения има, каква роля имат и какво ниво на риск съответства на тях. Тази класификация не ви казва колко от работата всъщност се извършва от AI, и колко пространство остава на задача. Който иска да отговори на този въпрос, не може да се ограничи с инвентаризация на риска; това изисква поглед върху самата работа, задача по задача. Работният скенер на FTE TO AI изчислява за всяка задача какъв дял от нея може да се поеме от AI, като допълнение към картината, която дава класификацията.