Az IKT-szektor olyan pozícióban van, amilyenben semelyik másik szektor: itt az AI-t nemcsak használják, hanem itt épül, integrálódik és kerül továbbértékesítésre is. Egy fejlesztő, aki egy nyelvi modellt kapcsol egy alkalmazáshoz, egy tanácsadó, aki egy AI-funkciót épít be egy ügyfélprojektbe, egy csapat, amely finomhangol egy nyílt forráskódú modellt — ezek nem kivételek, ez a mindennapi munka. A viszony aközött, amit a szervezet maga döntött el, és amit egy egyéni munkatárs vagy csapat saját maga tesz hozzá, ebben a szektorban másképp áll, mint egy banknál vagy egy építőipari vállalatnál. Míg más szektorokban az AI kiegészítés a meglévő folyamatokhoz, az IKT-szektorban az AI gyakran magának a terméknek a része. Ez azt jelenti, hogy a governance nem csak a belső eszközökről szól, hanem arról is, mi van azokban a szoftverekben, amelyeket harmadik felek részére szállítanak.
Sok szektorban az IT-osztály az, akinek van rálátása arra, mi fut a rendszereken. Az IKT-szektorban ez a feltevés gyengébb, mint máshol, pontosan azért, mert gyakorlatilag mindenki maga rendelkezik a technikai tudással ahhoz, hogy API-kulcsot kérjen, modellt töltsön le, vagy egy AI-funkciót építsen be egy kódbázisba anélkül, hogy ezt kérelem, licenc vagy jóváhagyási folyamat előzné meg. Egy fejlesztő, aki egy nyelvi modellt használ kód generálására, egy architekt, aki egy AI-ügynököt tesztel egy sandboxban, egy sales csapat, amely demót épít egy külső modellel — ezeket a döntéseket projektszinten hozzák meg, nem vezetői szinten. Egy leltár, amely a beszerzett licencekkel kezdődik, ezért jelentős részét kihagyja annak, ami valójában történik. A kérdés nem az, hogy van-e árnyék-AI, hanem az, hogy a produkciós környezet mekkora része támaszkodik már rá anélkül, hogy ezt bárki dokumentálta volna.
A technikai eszközök az AI-használat felderítésére léteznek, de gyakran csak azt látják, ami vállalati hálózatokon és felügyelt eszközökön keresztül zajlik. Egy olyan szektorban, ahol sok munka saját fejlesztési környezetekben, személyes fiókokban és saját infrastruktúrával rendelkező ügyfélprojektekben zajlik, ez korlátozott képet ad. A legteljesebb információ azoktól az emberektől érkezik, akik a munkát végzik. Ez csak akkor működik, ha a kérdést büntetés nélkül teszik fel: aki tudja, hogy egy őszinte válasz szankcióhoz vezet, nem válaszol őszintén. Hogyan kerülhető el, hogy munkatársak olyan eszközt használjanak, amelyet senki nem hagyott jóvá ezért nem az ellenőrzésnél kezdődik, hanem egy felhívásnál arra, hogy jelentsék be, mi történik már most. Ez más sorrend, mint amihez a legtöbb szervezet szokott, és az IKT-szektorban ez a sorrend különösen fontos, mert a fejlesztőcsapatok és a compliance-osztályok közötti bizalmatlanság itt gyakran már eleve jelen van.
Nem minden AI-használat az IKT-szektorban igényel ugyanolyan figyelmet. Egy modell, amely belső dokumentációt összefoglal, más, mint egy modell, amely hozzáférési jogokról dönt, vagy amely egy leszállított termék részeként fut egy ügyfélnél. A szerep és kockázati szint szerinti osztályozás ezért nem olyan dolog, amit egyszer elvégeznek, hanem olyan, amelynek együtt kell mozognia azzal, amit egy csapat épít. Ez más dinamika, mint stabilabb folyamatokkal rendelkező szektorokban, amint az olvasható a pénzügyi szolgáltatások vagy az energiaszektor governance-leírásaiban, ahol az AI-alkalmazások többnyire egy állandó operatív struktúrán belül maradnak. Az IKT-szektorban az alkalmazás néha gyorsabban változik, mint ahogy az osztályozás azt követni tudja, ami azt jelenti, hogy a governance-struktúrának magának is helyet kell adnia az újraértékelésnek, nem csak az egyszeri jóváhagyásnak.
Egy kockázat, amely az IKT-szektorban saját színezetet kap, az ingyenes vagy nyilvános AI-eszközök használata olyan munkára, amely valójában bizalmas: forráskód, ügyféladatok, belső architektúra, szerződési feltételek. Egy fejlesztő, aki gyorsan ellenőriztet egy kódrészletet egy nyilvános modellel, nem gondol arra, mi történik azzal a bevitt anyaggal. Hogyan kerülhető el, hogy vállalati adatok egy ingyenes chatablakban kerüljenek ezt a mechanizmust írja le, és ez ebben a szektorban relevánsabb, mint a legtöbb másikban, mert a kiszivárgó adatok gyakran nem csak személyes adatok, hanem szellemi tulajdon és ügyféli kód is. Egy governance-struktúra, amely erről semmit nem rögzít, a kockázatot az egyéni munkatársnál hagyja, míg a kitettség a szervezetnél van.
Egy vezető vagy General Counsel az IKT-szektorban gyakran már rendelkezik kockázati keretekkel az információbiztonságra, a szoftverminőségre és a beszállítómenedzsmentre vonatkozóan. Az AI-governance jobban működik, ha ehhez a meglévő struktúrához kapcsolódik, mint ha külön folyamattá válik, amelyet senki nem ismer fel. Ez itt erősebben igaz, mint olyan szektorokban, mint az ingatlanszektor vagy az építőipar, ahol az AI-governance gyakran még üres lapon kezdődik. Az IKT-szektorban általában már létezik egy kockázati nyelv; a feladat ezt a nyelvet kiterjeszteni anélkül, hogy lecserélnék.
A Responsible AI Scan feltérképezi, mi fut AI szempontjából a szervezetben, beleértve azt is, ami a hivatalos listán kívül keletkezett, és ehhez szerep és kockázati szint szerinti osztályozást kapcsol. Az eredmény egy governance-készlet, amely a meglévő struktúrához kapcsolódik, nem egy új keret mellette. Az ezt támogató eszköz még fejlesztés alatt áll. Aki szeretné ezt használni, feliratkozhat a várólistára; jelen pillanatban ezen a feliratkozáson kívül semmi más nem érhető el.
Mihelyt láthatóvá válik, milyen AI-alkalmazások vannak, és milyen kockázati szint tartozik hozzájuk, természetes módon következik a következő kérdés: a munka mely része, amelyet most még emberek végeznek, alkalmas arra, hogy ezekre az alkalmazásokra bízzák. Ez más kérdés, mint a governance, és arra az FTE TO AI munkaszkennere ad választ, amely feladatonként kiszámítja, hogy a munka mely része vehető át AI által.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.