Служител поставя откъс текст в безплатен чат прозорец, защото това работи по-бързо от вътрешната система. Екип взема абонамент за AI-инструмент, защото заявката за нещо официално би отнела седмици. Доставчик добавя AI-функционалност към софтуер, който вече години е в употреба, без да е проведен разговор за това. Никой от тези хора не се опитва да скрие нещо. Те се опитват да си свършат работата.
Това е същността на сенчестия AI: той не възниква от незачитане на правила, а от разлика между това, от което хората имат нужда, и това, което формалният процес предлага. Докато тази разлика съществува, сенчестият AI продължава да възниква, независимо колко политики бъдат написани.
Повечето организации имат списък с одобрен софтуер. Този списък е начална точка, а не отражение на действителността. Онова, което хората всъщност използват, почти винаги е с една крачка напред: въпросът как да предотвратите фирмени данни в безплатен чат прозорец илюстрира колко лесно инструмент може да остане напълно извън контрол. Същото важи и за отдел, който по собствена инициатива сключва абонамент, защото обичайният път се усеща твърде бавен, или за браузър разширение, което получава достъп до пощата, без да съществува отделно одобрение за това. Никоя от тези ситуации не се намира в ИТ-списък. Но те съществуват.
Съществува тенденция сенчестият AI да се третира като проблем на контрола и налагането: забрана, блокиране, санкции. Това има обратен ефект. Който знае, че искрен отговор ще доведе до проблем, вече не дава искрен отговор. Инструментът не изчезва, той просто става по-невидим. Точно обратното на онова, от което една организация се нуждае.
Втора причина, поради която проблемът не се решава сам: съществуващото управление (governance) често е изградено за софтуер, който се купува и инсталира, а не за услуга, която някой отваря в браузър и напуска на следващия ден. Тестова конфигурация, която някога е била замислена като временна показва как нещо малко, без ясен момент на оценка, може да продължи години наред, без никой да се чувства отговорен за него. Без процес, който системно забелязва такова използване, то остава извън полезрението, колкото и добри да са намеренията.
Единият начин да се разбере какво реално се случва, е да се попита. Не като контрол, а като инвентаризация. Служители, които знаят, че искрен отговор няма да доведе до разговор с HR, дават именно такъв отговор. Това изисква тон и процес, които предварително правят ясно: тук става дума за получаване на преглед, а не за наказване на някого.
Това включва и внимание към начина, по който нови процеси се поставят до вече съществуващите. Втори процес, поставен до вече съществуващ, без да се коригира или отмени първият, често се игнорира, просто защото хората се придържат към навика си. Инвентаризация, която се появява като допълнително задължение върху вече съществуващата работа, получава същото третиране.
Веднъж като стане ясно какво реално се използва, следва следващия въпрос: какво прави съответният инструмент и какъв риск съпътства това? Инструмент, който обобщава текст за вътрешна употреба, изисква нещо различно от инструмент, който участва в решения за приемане на клиенти или оценка на персонал. Тази класификация по роля и ниво на риск е онова, което превръща инвентара в нещо използваемо: основа, върху която управителният съвет, CIO или General Counsel могат да обяснят какво се случва и защо това е защитимо.
Този слой на управление (governance) се вписва в рисковата структура, която организацията вече има, а не в нова, паралелна рамка. Съдържанието на правилата, на които трябва да отговарят AI-приложенията, се променя и се актуализира на друго място; онова, което тук има значение, е дали организацията има работещ начин да знае какво функционира, кой носи отговорност за него и как това може да бъде доказано пред управителния съвет или регулаторния орган.
Веднъж като стане ясно какъв AI действително се използва и с какъв риск това е свързано, естествено възниква и друг въпрос: коя част от работата всъщност би могло AI-приложение да поеме, и коя не. Това е различен въпрос от този за одобрение и надзор, но логично следва от него. Работният скенер на FTE TO AI изчислява за всяка задача коя част от работата може да бъде поета от AI, въз основа на това какво реално включва дадена функция. Там, където Responsible AI Scan внася ред в онова, което вече функционира, работният скенер показва какво още може да бъде спечелено.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.