IT sektorius turi poziciją, kokios neturi joks kitas sektorius: čia AI ne tik naudojamas, čia jis taip pat kuriamas, integruojamas ir perparduodamas. Programuotojas, kuris prijungia kalbos modelį prie programos, konsultantas, kuris įtraukia AI funkciją į kliento projektą, komanda, kuri pritaiko atvirojo kodo modelį — tai nėra išimtys, tai kasdienis darbas. Santykis tarp to, ką sprendžia pati organizacija, ir to, ką prisideda individualus darbuotojas ar komanda, šiame sektoriuje skiriasi nuo banko ar statybos bendrovės. Kai kituose sektoriuose AI yra papildymas prie esamų procesų, IT sektoriuje AI dažnai yra paties produkto dalis. Tai reiškia, kad valdymas apima ne tik vidinius įrankius, bet ir tai, kas yra programinėje įrangoje, tiekiamoje trečiosioms šalims.
Daugelyje sektorių IT skyrius yra tas, kuris turi vaizdą apie tai, kas veikia. IT sektoriuje šis prielaida yra silpnesnė nei kitur, tiksliai todėl, kad beveik visi patys turi technines žinias, kaip užsiprašyti API raktą, atsisiųsti modelį ar įtraukti AI funkciją į kodo bazę, be to, kad tam būtų reikalinga paraiška, licencija ar patvirtinimo procesas. Programuotojas, kuris naudoja kalbos modelį kodui generuoti, architektas, kuris testuoja AI agentą smėlio dėžėje (sandbox), pardavimų komanda, kuri kuria demonstraciją su išoriniu modeliu — šie sprendimai priimami projekto lygmenyje, ne valdybos lygmenyje. Inventorizacija, kuri pradedama nuo įsigytų licencijų, todėl praleidžia didelę dalį to, kas iš tikrųjų vyksta. Klausimas nėra, ar egzistuoja šešėlinis AI, o kiek gamybinės aplinkos dabar jau juo remiasi, be to, kad kas nors tai būtų užfiksavęs.
Techninės priemonės AI naudojimui aptikti egzistuoja, bet jos dažnai mato tik tai, kas eina per įmonės tinklus ir valdomus įrenginius. Sektoriuje, kuriame daug darbo vyksta savose kūrimo aplinkose, asmeninėse paskyrose ir kliento projektuose su nuosava infrastruktūra, tai yra ribotas vaizdas. Išsamiausią informaciją teikia žmonės, kurie atlieka darbą. Tai veikia tik tuo atveju, jei klausimas užduodamas be atsiskaitymo: žmogus, kuris žino, kad nuoširdus atsakymas atneš sankciją, nuoširdžiai neatsakys. Kaip išvengti, kad darbuotojai naudotų įrankį, kurio niekas nepatvirtino todėl nepradedama nuo kontrolės, bet nuo kvietimo pranešti, kas jau vyksta. Tai kita eiliškumas nei įpratusi daugelis organizacijų, ir IT sektoriuje šis eiliškumas ypač svarbus, kadangi nepasitikėjimas tarp kūrimo komandų ir atitikties (compliance) skyrių čia dažnai jau egzistuoja.
Ne kiekvienas AI naudojimas IT sektoriuje reikalauja tokio pat dėmesio. Modelis, kuris apibendrina vidinę dokumentaciją, skiriasi nuo modelio, kuris dalyvauja sprendžiant apie prieigos teises, arba kuris veikia kaip tiekiamo produkto dalis pas klientą. Klasifikacija į vaidmenį ir rizikos lygį todėl nėra kažkas, kas vyksta vieną kartą, bet kažkas, kas turi keistis su tuo, ką komanda kuria. Tai kita dinamika nei sektoriuose su stabilesniais procesais, kaip aprašyta valdymo aprašymuose finansinių paslaugų arba energetikos sektoriuje, kur AI taikymai dažniausiai lieka fiksuotos operacinės struktūros ribose. IT sektoriuje taikymas kartais keičiasi greičiau, nei klasifikacija gali sekti, o tai reiškia, kad valdymo struktūra pati turi turėti vietos pakartotiniam vertinimui, ne tik vienkartiniam patvirtinimui.
Rizika, kuri IT sektoriuje gauna savo atspalvį, yra nemokamų ar viešų AI įrankių naudojimas darbui, kuris iš tikrųjų yra konfidencialus: pirminis kodas, kliento duomenys, vidinė architektūra, sutarties sąlygos. Programuotojas, kuris greitai leidžia viešam modeliui patikrinti kodo dalį, nepagalvoja apie tai, kas nutinka su tais įvesties duomenimis. Kaip išvengti, kad įmonės duomenys atsidurtų nemokamame pokalbių lange aprašo šį mechanizmą, ir jis šiame sektoriuje yra svarbesnis nei daugelyje kitų, kadangi nutekantys duomenys dažnai yra ne tik asmens duomenys, bet ir intelektinė nuosavybė ir kliento kodas. Valdymo struktūra, kuri to niekur nefiksuoja, palieka riziką individualiam darbuotojui, tuo tarpu poveikis tenka organizacijai.
IT sektoriaus valdybos narys ar Generalinis teisės patarėjas (General Counsel) dažnai jau turi rizikos sistemas informacijos saugumui, programinės įrangos kokybei ir tiekėjų valdymui. AI valdymas veikia geriau, jei jis prisijungia prie tos esamos struktūros, nei jei tai tampa atskiru procesu, kurio niekas nepažįsta. Tai galioja čia stipriau nei sektoriuose, tokiose kaip nekilnojamojo turto sektorius ar statyba, kur AI valdymas dažnai pradedamas nuo tuščio lapo. IT sektoriuje dažniausiai jau egzistuoja rizikos kalba; darbas yra tą kalbą praplėsti, jos nepakeičiant.
Responsible AI Scan nustato, kas organizacijoje veikia iš AI, įskaitant tai, kas atsirado už oficialaus sąrašo ribų, ir prie to prijungia klasifikaciją į vaidmenį ir rizikos lygį. Rezultatas yra valdymo rinkinys, kuris prisijungia prie esamos struktūros, ne naujas kadras šalia jos. Įrankis, kuris tai palaiko, dar yra kūrimo stadijoje. Kas norėtų tuo pasinaudoti, gali užsiregistruoti laukimo sąraše; šiuo metu dar nieko nėra teikiama, išskyrus šią registraciją.
Kai tik tampa aišku, kokie AI taikymai egzistuoja ir koks rizikos lygis su jais siejasi, savaime seka kitas klausimas: kuri dalis darbo, kurį dabar dar atlieka žmonės, yra tinkama perduoti tiems taikymams. Tai kitas klausimas nei valdymas, ir į jį atsako FTE TO AI darbo skenavimas, kuris pagal užduotį apskaičiuoja, kurią darbo dalį gali perimti AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.