Доставчик предоставя пакет за счетоводство, HR-система или инструмент за клиентско обслужване. Има договор, споразумение за обработка на данни, може би одит по сигурността. После доставчикът добавя в дадена актуализация AI-функция: автоматична класификация, текстови предложения, чатбот, пуснат върху вашите данни. Бележките към версията я наричат подобрение. Никой във вашата организация не е имал възможност да каже нещо по въпроса, защото никой не знаеше, че тя идва.
Това не е изключение от начина, по който се доставя софтуер. Това се е превърнало в стандарт. Доставчиците се конкурират по AI-функционалност и я вграждат толкова бързо, колкото могат, често като част от абонамент, който вече плащате. Въпросът дали това попада в обхвата на съществуващите ви договорености рядко се поставя, преди функцията да заработи.
Отдел „Обществени поръчки“/„Снабдяване“ преценява доставчик при закупуването. След това вниманието се пренасочва към фактура, надеждност на работата (uptime) и поддръжка. Функционалните актуализации минават извън този процес, защото попадат в категорията поддръжка, а не нова покупка. Кой би трябвало да съобщи за това? Доставчикът го възприема като подобрение на продукта. Купувачът не вижда актуализацията, или я вижда, но смята, че тя касае някой друг. Потребителят в организацията основно забелязва, че някой бутон прави нещо по-умно, и не се пита дали зад това стои езиков модел, който обработва данни извън организацията.
Моделът наподобява това, което се случва при разширение за браузър с достъп до вашата поща: достъпът се предоставя в момент, когато никой не мислел за AI, и след това остава активен незабелязано. При доставчиците проблемът с мащаба е по-голям, защото не се отнася до един служител, а до цяла организация, изложена на риск чрез един договор.
Договорна клауза, която налага задължение за уведомяване при AI-функционалност, помага при нови договори. При съществуващи договори такава клауза липсва, и не е самоочевидно, че доставчик би я приел с обратна сила. Освен това клаузата не решава проблема с откриването: ако никой не проверява периодично какво доставчикът действително е добавил, уведомяването остава зависимо от готовността на доставчика сам да съобщи за това.
Което действително работи, е фиксиран моментен снимок: периодична инвентаризация на това, каква AI-функционалност всеки основен доставчик предоставя в момента, отделно от онова, което е било оценено при закупуването. Това не е правен инструмент, а фактически преглед, който впоследствие може да се съпостави спрямо рисковата категория на процеса, в който доставчикът работи.
Същата динамика, която поддържа сенчестия AI сред служителите, действа и тук, само на нивото на доставчиците. Който задава въпроса „използвате ли тук AI“, иска честен отговор, не защитна реакция от акаунт-мениджъра. Това означава, че въпросът не трябва да се задава като подстъп към прекратяване на договора, а като част от фиксиран процес, в който отговорът няма последствие освен класификация. Вижте как това работи при служители, които използват инструмент, който никой не е одобрил: полезната информация се разкрива само когато задаването на въпроси е отделено от наказването.
Списък с доставчици е начална точка, не крайна цел. За всеки доставчик, който има достъп до производствени данни, клиентски данни или данни на персонал, е важно дали междувременно в системата има AI-функционалност, какво тази функционалност прави с данните, и дали това използване попада в същата рискова категория, за която доставчикът първоначално е бил одобрен. Доставчик, който преди пет години е оценен като нискорисков, защото само издава фактури, може сега да работи с модул, който автоматично класифицира фактури на базата на езиков модел, обучен извън организацията. Това е друга рискова категория, дори и на фактурата да стои същото име.
Тази инвентаризация не бива да стои отделно от останалата AI-управляемост в организацията. Същата класификация, която се прилага към вътрешно създадени инструменти или към пробна инсталация, която никога не е била изключена, трябва да се прилага и към онова, което доставчиците внасят. Един преглед, една рискова скала, независимо дали AI е изграден вътрешно, донесен от служител, или добавен от доставчик без предизвестие.
Веднъж щом стане ясно какъв AI влиза чрез доставчиците, възниква следващ въпрос, който надхвърля само риска: какво реално прави този AI с работата, която сега се извършва от хора, и къде това се пресича със задачи, които вече и без това са подходящи за автоматизация. Работният анализ (werkscan) на FTE TO AI изчислява за всяка задача каква част от работата може да бъде поета от AI, независимо от това какъв доставчик или каква система в крайна сметка я изпълнява. Това прави инвентаризацията, която започва от риска, приложима и за следващия въпрос: не само какво работи, а какво реално струва самата работа.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.