Sektor IKT má postavenie, ktoré nemá žiadny iný sektor: tu sa AI nielen používa, ale sa tu aj vytvára, integruje a ďalej predáva. Vývojár, ktorý pripája jazykový model k aplikácii, konzultant, ktorý zapracúva funkciu AI do projektu pre klienta, tím, ktorý doučuje (finetunuje) open-source model — to nie sú výnimky, to je bežná denná práca. Vzťah medzi tým, čo sa rozhodne na úrovni organizácie, a tým, čo si sám doplní jednotlivý zamestnanec alebo tím, je v tomto sektore iný než v banke alebo stavebnej firme. Kde je v iných sektoroch AI doplnkom k existujúcim procesom, v sektore IKT je AI často súčasťou samotného produktu. To znamená, že governance sa netýka len interných nástrojov, ale aj toho, čo sa nachádza v softvéri, ktorý sa dodáva tretím stranám.
V mnohých sektoroch je IT oddelenie tým, kto má prehľad o tom, čo sa používa. V sektore IKT je tento predpoklad slabší než inde, práve preto, že takmer každý má sám technické znalosti na to, aby požiadal o API kľúč, stiahol model alebo zapracoval funkciu AI do kódovej základne bez toho, aby tomu predchádzala žiadosť, licencia alebo schvaľovací proces. Developer, ktorý používa jazykový model na generovanie kódu, architekt, ktorý testuje AI agenta v sandboxe, obchodný tím, ktorý vytvára demo pomocou externého modelu — tieto rozhodnutia sa robia na úrovni projektu, nie na úrovni vedenia. Inventár, ktorý začína pri zakúpených licenciách, tak stráca podstatnú časť toho, čo sa skutočne deje. Otázkou nie je, či existuje tieňová AI, ale koľko z produkčného prostredia sa už na ňu spolieha bez toho, aby to niekto zaznamenal.
Technické prostriedky na odhaľovanie používania AI existujú, ale často vidia len to, čo prechádza cez firemné siete a riadené zariadenia. V sektore, kde sa veľká časť práce odohráva vo vlastných vývojárskych prostrediach, osobných účtoch a projektoch pre klientov s vlastnou infraštruktúrou, je to obmedzený obraz. Najúplnejšie informácie prichádzajú od ľudí, ktorí prácu skutočne robia. To funguje len tak, že otázka sa položí bez následkov: kto vie, že čestná odpoveď povedie k sankcii, nebude odpovedať čestne. Ako zabrániť tomu, aby zamestnanci používali nástroj, ktorý nikto neschválil preto nezačína kontrolou, ale pozvaním nahlásiť to, čo sa už deje. To je iný postup než na aký sú väčšina organizácií zvyknuté, a v sektore IKT je tento postup obzvlášť dôležitý, pretože nedôvera medzi vývojárskymi tímami a oddeleniami compliance je tu často už prítomná.
Nie každé používanie AI v sektore IKT si vyžaduje rovnakú pozornosť. Model, ktorý zhŕňa internú dokumentáciu, je iný než model, ktorý spolurozhoduje o prístupových právach alebo ktorý beží u klienta ako súčasť dodaného produktu. Klasifikácia podľa role a úrovne rizika teda nie je niečo, čo sa deje jedenkrát, ale niečo, čo sa musí prispôsobovať tomu, čo tím vytvára. To je iná dynamika než v sektoroch so stabilnejšími procesmi, ako je to opísané v popisoch governance v finančných službách alebo v energetickom sektore, kde AI aplikácie zvyčajne zostávajú v rámci pevnej operačnej štruktúry. V sektore IKT sa aplikácia niekedy menia rýchlejšie, než klasifikácia dokáže sledovať, čo znamená, že samotná štruktúra governance musí mať priestor na opätovné posúdenie, nielen na jednorazové schválenie.
Riziko, ktoré v sektore IKT nadobúda vlastný charakter, je používanie bezplatných alebo verejných nástrojov AI na prácu, ktorá je v skutočnosti dôverná: zdrojový kód, údaje klientov, interná architektúra, zmluvné podmienky. Vývojár, ktorý si rýchlo dá skontrolovať kúsok kódu verejným modelom, nemyslí na to, čo sa stane s týmto vstupom. Ako zabrániť tomu, aby sa firemné dáta dostali do bezplatného chatovacieho okna popisuje tento mechanizmus a v tomto sektore je relevantnejší než vo väčšine iných, pretože údaje, ktoré unikajú, často nie sú len osobné údaje, ale aj duševné vlastníctvo a kód klienta. Štruktúra governance, ktorá o tom nič nezaznamenáva, prenáša riziko na jednotlivého zamestnanca, hoci vystavenie riziku spočíva na organizácii.
Riaditeľ alebo hlavný právny poradca (General Counsel) v sektore IKT má často už rámce rizík pre informačnú bezpečnosť, kvalitu softvéru a riadenie dodávateľov. AI-governance funguje lepšie, ak nadväzuje na túto existujúcu štruktúru, než keď sa stane samostatným procesom, ktorý nikto nespozná. To platí tu silnejšie než v sektoroch, ako je sektor nehnuteľností alebo stavebníctvo, kde AI-governance často ešte začína na čistom liste papiera. V sektore IKT je zvyčajne už prítomný jazyk rizika; úlohou je tento jazyk rozšíriť, nie ho nahradiť.
Responsible AI Scan zmapuje, aké AI aplikácie sa v organizácii používajú, vrátane tých, ktoré vznikli mimo oficiálneho zoznamu, a spája to s klasifikáciou podľa role a úrovne rizika. Výsledkom je súbor governance, ktorý nadväzuje na existujúcu štruktúru, nie nový rámec navyše. Nástroj, ktorý to podporuje, sa ešte vyvíja. Kto ho chce použiť, môže sa zapísať na čakaciu listinu; momentálne sa okrem tohto zápisu ešte nič nedodáva.
Hneď ako bude viditeľné, aké AI aplikácie existujú a aká úroveň rizika k nim patrí, prirodzene nasleduje ďalšia otázka: aká časť práce, ktorú v súčasnosti ešte robia ľudia, je vhodná na to, aby sa prenechala týmto aplikáciám. To je iná otázka než governance, a odpovedá na ňu pracovný scan od FTE TO AI, ktorý pre každú úlohu vypočíta, akú časť práce je možné prevziať pomocou AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.