ИТ сектора има позиция, каквата няма никой друг сектор: тук AI не само се използва, тук той се и изгражда, интегрира и продава. Разработчик, който свързва езиков модел с приложение, консултант, който вгражда AI функция в проект за клиент, екип, който финетюнва модел с отворен код — това не са изключения, това е ежедневната работа. Съотношението между това, което организацията сама решава, и това, което отделен служител или екип добавя сам, тук е различно от банка или строителна фирма. Докато в другите сектори AI е добавка към съществуващи процеси, в ИТ сектора AI често е част от самия продукт. Това означава, че governance не се отнася само до вътрешните инструменти, но и до онова, което присъства в софтуер, доставян на трети страни.
В много сектори ИТ отделът е онзи, който има поглед върху това, какво работи. В ИТ сектора това предположение е по-слабо отколкото навсякъде другаде, точно защото практически всеки сам има техническите знания да заяви API ключ, да изтегли модел или да вгради AI функция в кодова база, без за това да е предшествала заявка, лиценз или процес на одобрение. Разработчик, който използва езиков модел за генериране на код, архитект, който тества AI агент в песъчник (sandbox), екип по продажби, който изгражда демонстрация с външен модел — тези решения се вземат на ниво проект, не на ниво управление. Инвентаризация, която започва от закупените лицензи, следователно пропуска съществена част от онова, което действително се случва. Въпросът не е дали има сенчест AI, а колко от продукционната среда вече се опира на него, без някой да го е документирал.
Техническите средства за откриване на употребата на AI съществуват, но те често виждат само онова, което минава през корпоративни мрежи и управлявани устройства. В сектор, където голяма част от работата се извършва в собствени среди за разработка, лични акаунти и клиентски проекти с отделна инфраструктура, това е ограничена картина. Най-пълната информация идва от хората, които извършват работата. Това работи само ако въпросът се задава без последствия: някой, който знае, че честният отговор води до санкция, не отговаря честно. Как да предотвратите служителите да използват инструмент, който никой не е одобрил следователно не започва с контрол, а с покана да се съобщи какво вече се случва. Това е различен ред от онзи, с който повечето организации са свикнали, и в ИТ сектора този ред е особено важен, защото недоверието между разработващите екипи и отделите по съответствие тук често вече съществува.
Не всяка употреба на AI в ИТ сектора изисква едно и същото внимание. Модел, който обобщава вътрешна документация, е различен от модел, който участва в решения за права за достъп или работи като част от доставен продукт при клиент. Класификацията по роля и ниво на риск следователно не е нещо, което се случва веднъж, а нещо, което трябва да се движи заедно с това, което екип изгражда. Това е различна динамика от секторите с по-стабилни процеси, както може да се прочете в описанията на governance във финансовите услуги или енергийния сектор, където AI приложенията обикновено остават в рамките на постоянна операционна структура. В ИТ сектора приложението понякога се променя по-бързо, отколкото класификацията може да следва, което означава, че самата структура на governance трябва да има място за преоценка, не само за еднократно одобрение.
Риск, който в ИТ сектора получава своя собствена окраска, е използването на безплатни или публични AI инструменти за работа, която по същество е поверителна: изходен код, клиентски данни, вътрешна архитектура, договорни условия. Разработчик, който бързо дава на публичен модел да провери част от код, не мисли какво се случва с този вход. Как да предотвратите фирмени данни да попаднат в безплатен чат прозорец описва този механизъм, и той е по-релевантен в този сектор от повечето други, защото данните, които изтичат, често не са само лични данни, но и интелектуална собственост и клиентски код. Структура на governance, която не урежда нищо по този въпрос, оставя риска при отделния служител, докато изложеността е при организацията.
Ръководител или General Counsel в ИТ сектора вече често има рамки за риск за информационна сигурност, качество на софтуера и управление на доставчици. AI-governance работи по-добре, ако се свързва с тази съществуваща структура, отколкото ако стане отделен процес, който никой не разпознава. Това важи тук по-силно отколкото в сектори като сектора на недвижимите имоти или строителството, където AI-governance често още започва от чист лист. В ИТ сектора обикновено вече присъства език на риска; работата е да се разшири този език, без да се замества.
Responsible AI Scan картографира какво AI работи в организацията, включително онова, което е възникнало извън официалния списък, и свързва с това класификация по роля и ниво на риск. Резултатът е набор от governance, който се свързва със съществуващата структура, не нова рамка отделно. Инструментът, който подпомага това, все още се изгражда. Онези, които искат да го използват, могат да се запишат за списъка на чакащите; в момента все още не се предоставя нищо извън тази регистрация.
Веднага щом се вижда какви AI приложения съществуват и какво ниво на риск се свързва с тях, следва естествено следващият въпрос: коя част от работата, която сега все още се извършва от хора, е подходяща да се предостави на тези приложения. Това е различен въпрос от governance, и той се отговаря от работния скан на FTE TO AI, който за всяка задача изчислява коя част от работата може да бъде поета от AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.