re-ai-gov В списъка на чакащите

Kennisbank

Разширението, което никой не е одобрил, но чете заедно с вас

Служител инсталира разширение за браузър, което обобщава имейли, предлага срещи в календара или пише чернови на текст в Gmail или Outlook Web. Инсталацията отнема минута и изисква съгласие за достъп до съдържанието на страницата. Това съгласие се дава без никой да прочете какво точно се споделя, колко дълго се съхранява, дали моделът се обучава върху него, дали доставчикът го препродава. Разширението работи, спестява време, а после се разпространява неформално: колега го вижда, пита за линка, също го инсталира.

Как се стига до това

Разширенията за браузър остават извън повечето процеси на закупуване. Не се закупува нищо, няма договор, няма фактура, която да привлече вниманието на финансовия отдел. Инсталацията протича през самия браузър, често с личен или служебен акаунт, който не минава през IT. За служителя това не е „нов инструмент“ в смисъла, който изисква одобрение — това е малко помощно средство, сравнимо с проверка на правописа. Фактът, че разширението има достъп за четене до цялата поща, включително прикачени файлове, договори и клиентски данни, е технически детайл, който е бил отклик при инсталацията.

Този модел не е уникален за имейла. Същият път минава чрез инструмент, който никой не е одобрил в по-широк смисъл, чрез бизнес данни, поставени в безплатен чат прозорец, и чрез отдел, който по своя инициатива е сключил абонамент. Разширението за браузър е само вариантът с най-директен достъп: не до един документ, а до цялата пощенска кутия.

Защо не изчезва от само себе си

IT списък с одобрен софтуер не хваща това. Разширението не е в прегледа на договорите, не е в потока от фактури, не е в SSO лог, ако не се използва такъв. Единственият начин да се знае дали е там, е да се попита — хората, които го използват. И това работи само ако задаването на въпроси няма последствия. Веднага щом сигнал доведе до упрек, информацията спира. Следващото разширение тогава не се съобщава, а се използва по-тихо.

Разширението не изчезва и защото е полезно. Който може да обработва пощата по-бързо, не се отказва от това, защото някъде има документ с политика, който го препоръчва да не се прави. Забрана без алтернатива премества поведението към друг акаунт, друг браузър, личен телефон. Проблемът тогава става по-невидим, не по-малък.

Какво може да направи организация с това

Изходната точка не е разкриване и наказание, а картографиране на това, което съществува, и вземане на решение на тази база. Това започва с инвентаризация, която не гледа само какво е закупено, а какво се използва: как изграждате инвентаризация на AI описва този подход, включително въпроса как да накарате хората сами да съобщават какво използват.

За всяко разширение, което излиза на бял свят, е релевантен набор от въпроси. Кои данни докосва — само това, което е на екрана, или цялата пощенска кутия чрез API връзка? Обработва ли се съдържанието от външен модел, и ако да, при какви условия? Има ли делова причина за използването, или замества нещо, което организацията вече е имала? Какво трябва да се документира за всяко приложение — кой е собственикът, какви данни влизат в него, какво ниво на риск се прилага — е описано в какво трябва да документирате за всяко приложение. Това не е юридическо упражнение само по себе си; то е основата за решаване за всеки отделен случай: разрешаване, замяна с управляван вариант, или постепенно извеждане от употреба.

Това включва и поглед навън. Не всяка AI функция в пощенската среда идва от разширение, което служителят е инсталирал сам. Доставчик на съществуващ инструмент може да е добавил AI функция чрез актуализация, без това да бъде видяно като нова оценка. Какво означава това за съществуващи договори и споразумения за обработка на данни е описано при доставчик, който е вградил AI в своя продукт.

Без лов на вещици

Целта на тази инвентаризация не е да се открие служителят, който е инсталирал разширението. Който стигне до това, повече не вижда следващото разширение, защото никой вече не съобщава. Целта е картина на това, какво фактически се случва с данните от имейлите, договорните документи и комуникацията с клиентите, така че ръководител или General Counsel да може да вземе обосновано решение за какво остава, какво се заменя и какво постепенно се извежда от употреба — с причина, която може да бъде представена пред регулаторен орган или одитор.

От риск към разбиране на разпределението на времето

Същият въпрос, който разкрива, че разширение чете заедно с имейла, разкрива и колко време това разширение фактически отнема от работата, която преди се вършеше на ръка. Тези два въпроса са близки един до друг: единият е за риск и надзор, другият е за къде се променя разпределението на времето в самата работа. За последното работният скенер на FTE TO AI изчислява за всяка задача каква част от работата може да бъде поета от AI, независимо кой инструмент прави това — следваща стъпка за тези, които след инвентаризацията искат да знаят какво означава вече съществуващият AI за организацията на работата.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.