ICT sektor má postavení, které žádný jiný sektor nemá: zde se AI nejen používá, zde se také vytváří, integruje a dále prodává. Vývojář, který připojí jazykový model k aplikaci, konzultant, který zapracuje AI-funkci do projektu pro klienta, tým, který doladí open-source model — to nejsou výjimky, to je běžná denní práce. Poměr mezi tím, co organizace sama rozhoduje, a tím, co si individuální zaměstnanec nebo tým sám přidá, je v tomto sektoru jiný než v bance nebo stavební firmě. Zatímco v jiných sektorech je AI doplňkem existujících procesů, v ICT sektoru je AI často součástí samotného produktu. To znamená, že governance se netýká jen interních nástrojů, ale i toho, co se nachází v softwaru, který se dodává třetím stranám.
V mnoha sektorech má přehled o tom, co běží, IT oddělení. V ICT sektoru je tento předpoklad slabší než jinde, právě proto, že téměř každý má sám technické znalosti k tomu, aby požádal o API klíč, stáhl model nebo zapracoval AI-funkci do kódové základny bez toho, aby tomu předcházela žádost, licence nebo schvalovací proces. Developer, který používá jazykový model k generování kódu, architekt, který testuje AI-agenta v sandboxu, sales tým, který staví demo s externím modelem — tyto volby se dělají na úrovni projektu, ne na úrovni vedení. Inventura, která začíná u zakoupených licencí, tak postrádá podstatnou část toho, co se skutečně děje. Otázka nezní, zda existuje stínová AI, ale kolik z produkčního prostředí se na ní už spoléhá, aniž by to kdokoli zaznamenal.
Technické prostředky k detekci používání AI existují, ale často vidí jen to, co prochází přes firemní sítě a správu zařízení. V sektoru, kde velká část práce probíhá ve vlastních vývojových prostředích, osobních účtech a projektech klientů s vlastní infrastrukturou, je to omezený pohled. Nejúplnější informace přichází od lidí, kteří tu práci vykonávají. To funguje jen tehdy, pokud je otázka položena bez následků: kdo ví, že upřímná odpověď povede k sankci, neodpoví upřímně. Jak zabránit tomu, aby zaměstnanci používali nástroj, který nikdo neschválil proto nezačíná kontrolou, ale výzvou k nahlášení toho, co se už děje. To je jiné pořadí, než na jaké je většina organizací zvyklá, a v ICT sektoru je toto pořadí zvlášť důležité, protože nedůvěra mezi vývojovými týmy a compliance oddělením je zde často už přítomná.
Ne každé používání AI v ICT sektoru vyžaduje stejnou pozornost. Model, který shrnuje interní dokumentaci, je jiná situace než model, který spolurozhoduje o přístupových právech nebo který běží jako součást dodaného produktu u klienta. Klasifikace podle role a úrovně rizika proto není něco, co se stane jednou, ale něco, co se musí pohybovat souběžně s tím, co tým vytváří. To je jiná dynamika než v sektorech se stabilnějšími procesy, jak lze vyčíst z popisů governance ve finančních službách nebo v energetickém sektoru, kde AI aplikace obvykle zůstávají v rámci fixní operační struktury. V ICT sektoru se aplikace mění někdy rychleji, než jaké tempo dokáže udržet klasifikace, což znamená, že samotná struktura governance musí mít prostor pro opětovné posouzení, nejen pro jednorázové schválení.
Riziko, které v ICT sektoru dostává vlastní podobu, je používání bezplatných nebo veřejných AI nástrojů pro práci, která je ve skutečnosti důvěrná: zdrojový kód, údaje klientů, interní architektura, smluvní podmínky. Vývojář, který si rychle nechá zkontrolovat kus kódu veřejným modelem, nepřemýšlí o tom, co se s tímto vstupem stane. Jak zabránit tomu, aby se firemní data dostala do bezplatného chatovacího okna popisuje tento mechanismus, a v tomto sektoru je relevantnější než ve většině ostatních, protože data, která uniknou, často nejsou jen osobní údaje, ale i duševní vlastnictví a kód klienta. Struktura governance, která k tomu nic nestanoví, přenáší riziko na jednotlivého zaměstnance, zatímco vystavení riziku leží na organizaci.
Vedoucí pracovník nebo General Counsel v ICT sektoru má často už rizikové rámce pro informační bezpečnost, kvalitu softwaru a řízení dodavatelů. AI-governance funguje lépe, pokud na tuto existující strukturu navazuje, než když se stane samostatným procesem, který nikdo nerozpozná. To platí zde silněji než v sektorech jako oblast nemovitostí nebo stavebnictví, kde AI-governance často začíná na prázdném listu. V ICT sektoru je obvykle už přítomna rizikoví terminologie; úkolem je tuto terminologii rozšířit, ne ji nahradit.
Responsible AI Scan mapuje, jaké AI aplikace v organizaci běží, včetně těch, které vznikly mimo oficiální seznam, a k tomu přidává klasifikaci podle role a úrovně rizika. Výsledkem je soubor governance, který navazuje na existující strukturu, ne nový rámec vedle ní. Nástroj, který toto podporuje, je stále ve vývoji. Kdo jej chce využít, může se přihlásit na čekací listinu; v tuto chvíli se ještě nic nedodává mimo tento zápis.
Jakmile je vidět, jaké AI aplikace existují a jaká úroveň rizika k nim patří, přirozeně následuje další otázka: jaká část práce, kterou nyní ještě vykonávají lidé, je vhodná k tomu, aby byla přenechána těmto aplikacím. To je jiná otázka než governance, a odpovídá na ni pracovní scan od FTE TO AI, který pro každou úlohu vypočítá, jakou část práce lze převzít pomocí AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.