Отговорност при грешка на AI-приложения

AI-приложение прави грешка. Решение не е правилно, съвет е подвеждащ, клиент е неправомерно отхвърлен. Въпросът, който следва, не е само технически. Кой трябваше да предвиди това, кой управляваше системата и кой може да обясни защо е била използвана по начина, по който е била използвана.

Този отговор не съществува отделно от регистър. Отговорността предполага, че някой знае, че приложението съществува, за какво служи и кой отговаря за него. Без тази основа въпросът за отговорността е риторичен: няма никой, който да го знае, следователно няма никой, който да го обясни.

Какво решава инвентарът и какво не

Responsible AI Scan прави преглед на това какво работи, кой го използва и с какъв ниво на риск е свързано това. Това е начална точка, а не изказване за виновност. Скенирането класифицира приложение по роля и риск; то не оценява дали конкретно решение е било правилно. Тази оценка принадлежи на самия инцидент, а не на инвентара, който му предхожда.

Което скенирането наистина прави, е да предостави структурата, в рамките на която тази оценка по-късно може да бъде направена. Ако е известно кой е закупил приложение, кой го управлява и за каква цел е било одобрено, съществува линия, на която да се разчита. Ако тази структура липсва, въпросът за отговорността се превръща в гадаене след факта.

IT-списъкът не е практиката

Повечето организации имат преглед на одобрен софтуер. Този преглед почти никога не е пълен. Служители използват инструменти, които никой не е регистрирал, често защото работата се извършва по-бързо и никой не е питал. Това не е по дефиниция безотговорно поведение; това е онова, което се случва, когато организация не предлага друг път.

Кой иска да знае какво наистина се използва, трябва да попита. И това работи само ако запитването няма последствия. Веднага щом служител предположи, че честен отговор ще доведе до коригиращ разговор, отговорът спира. Какво правите със служители, които използват инструмент, който никой не е одобрил разглежда точно този механизъм: инвентарът е толкова добър, колкото е доверието, с което е събран.

Към това принадлежи и въпросът какво се случва с фирмена информация, веднага щом тя бъде въведена в външен прозорец. Какво правите с фирмени данни в безплатен чат-прозорец описва риск, който е отделен от злонамереност: някой просто иска да провери текст и при това вписва нещо, което не трябвало.

Доказуемост, не гаранция

Набор от правила за управление (governance), който следва инвентара, определя кой одобрява приложение, кой упражнява надзор и как това се документира. Това се вписва в структурата на риска, която организацията вече има за други области: същите комитети, същите линии на докладване, същите пътища за ескалация. Не се появява нов апарат до съществуващия; към вече съществуващото се добавя категория.

Това осигурява доказуемост: управителен орган може да покаже, че е било разгледано, класифицирано и надзорът е бил уреден. Това не осигурява гаранция, че приложение никога повече няма да направи грешка. Тези две неща са различни и скенирането не се изказва за второто. Онова, което то предоставя, е основа, на която управителен орган може да обясни какво е било направено, а не застраховка срещу онова, което все още може да се случи.

Защо втори процес обикновено не се задържа

Често допускана грешка е да се създаде отделен AI-процес, отделен от съществуващата структура за риск и съответствие. Този процес получава внимание в началото и след това изчезва на заден план, защото никой не продължава да поддържа втора система до първата. Защо втори процес до съществуващия бива игнориран обяснява защо свързването със съществуващите структури не е въпрос на ефективност, а условие за съществуване.

Към това принадлежи и фактът, че инвентарът е момент, а не крайна точка. Нови приложения се добавят, съществуващи променят функцията си, а класификация, която е била правилна при внедряването, не е автоматично правилна година по-късно. Колко често трябва да прекласифицирате и как поддържате AI-регистър актуален описват какво изисква тази поддръжка на практика и защо регистър, съставен веднъж, в рамките на кратко време не съответства повече на реалността.

Хората, които работят с тези приложения, освен това са част от решението, не само риск, който трябва да се управлява. Какво служителите разбират и не разбират за системите, които използват, определя дали набор от правила за управление означава нещо на практика. Какво означава AI-грамотност за вашите служители разглежда този аспект.

Следващият въпрос

Кой веднъж узнае кои AI-приложения работят и кой отговаря за тях, естествено се сблъсква със следващ въпрос: коя част от работата, която сега се извършва ръчно, всъщност е подходяща да бъде предоставена на AI-приложение. Това е различен въпрос от отговорността, но такъв, който се основава на същия инвентар. Работният скенер на FTE TO AI изчислява за всяка задача коя част от работата може да бъде поета от AI, като следваща стъпка след като е ясно какво вече работи и кой решава за него.