ICT-sektoril on positsioon, mida ühelgi teisel sektoril ei ole: siin ei kasutata AI-d ainult, siin ka ehitatakse, integreeritakse ja müüakse see edasi. Arendaja, kes ühendab keelemudeli rakendusega, konsultant, kes lisab AI-funktsiooni kliendiprojekti, meeskond, kes häälestab avatud lähtekoodiga mudelit — need ei ole erandid, see on igapäevane töö. Suhe selle vahel, mida organisatsioon endaks otsustab, ja selle vahel, mida üksik töötaja või meeskond omal käel lisab, on selles sektoris teistsugune kui pangas või ehitusettevõttes. Kui teistes sektorites on AI olemasolevate protsesside täiendus, on AI ICT-sektoris tihti osa tootest endast. See tähendab, et governance ei puuduta ainult sisemisi tööriistu, vaid ka seda, mis on tarkvaras, mida kolmandatele pooltele tarnitakse.
Mitmes sektoris on IT-osakond see, kellel on ülevaade toimivast. ICT-sektoris on see eeldus nõrgem kui mujal, just seetõttu, et peaaegu igaühel on ise tehnilised teadmised, et taotleda API-võtit, laadida alla mudel või lisada AI-funktsioon koodibaasi, ilma et sellele eelneks taotlus, litsents või heakskiitmise protsess. Arendaja, kes kasutab keelemudelit koodi genereerimiseks, arhitekt, kes testib AI-agenti liivakastis, müügimeeskond, kes ehitab demo välise mudeliga — need otsused tehakse projektitasandil, mitte juhatuse tasandil. Inventuur, mis algab ostetud litsentsidest, jätab seetõttu vahele suure osa sellest, mis tegelikult toimub. Küsimus ei ole selles, kas varju-AI eksisteerib, vaid kui suur osa tootmiskeskkonnast sellele juba toetub, ilma et keegi seda dokumenteerinud oleks.
Tehnilised vahendid AI-kasutuse tuvastamiseks on olemas, kuid need näevad tihti ainult seda, mis liigub ettevõtte võrkude ja hallatud seadmete kaudu. Sektoris, kus suur osa tööst toimub omaenda arenduskeskkondades, personaalsetes kontodes ja kliendiprojektides oma infrastruktuuriga, on see piiratud pilt. Kõige täielikuma teabe annavad inimesed, kes tööd teevad. See toimib ainult siis, kui küsimus esitatakse ilma tagajärgedeta: kes teab, et aus vastus toob kaasa sanktsiooni, ei vasta ausalt. Kuidas vältida, et töötajad kasutavad tööriista, mida ei ole kinnitatud ei alga seetõttu kontrollist, vaid kutsest teatada, mis juba toimub. See on teine järjekord, kui millega enamik organisatsioone harjunud on, ja ICT-sektoris on see järjekord eriti oluline, kuna usaldamatus arendusmeeskondade ja vastavusosakondade vahel on siin tihti juba olemas.
Mitte kõik AI-kasutus ICT-sektoris ei vaja sama tähelepanu. Mudel, mis võtab kokku sisemist dokumentatsiooni, on teistsugune kui mudel, mis osaleb otsustamises juurdepääsuõiguste üle või mis töötab tarnitud toote osana kliendi juures. Klassifitseerimine rolli ja riskitaseme järgi ei ole seetõttu midagi, mis toimub üks kord, vaid midagi, mis peab liikuma koos sellega, mida meeskond ehitab. See on teistsugune dünaamika kui stabiilsemate protsessidega sektorites, nagu näha finantsteenuste või energiasektori governance kirjeldustes, kus AI-rakendused jäävad enamasti kindla operatiivstruktuuri raamesse. ICT-sektoris muutub rakendus mõnikord kiiremini, kui klassifitseerimine sammu pidada jaksab, mis tähendab, et governance-struktuur ise peab jätma ruumi uuesti hindamisele, mitte ainult ühekordsele heakskiitmisele.
Risk, mis saab ICT-sektoris oma erilise varjundi, on tasuta või avalike AI-tööriistade kasutamine töö puhul, mis on tegelikult konfidentsiaalne: lähtekood, kliendiandmed, sisemine arhitektuur, lepingutingimused. Arendaja, kes laseb kiiresti avalikul mudelil koodi kontrollida, ei mõtle sellele, mis selle sisendiga edasi juhtub. Kuidas vältida, et ettevõtte andmed jõuavad tasuta vestlusaknasse kirjeldab seda mehhanismi, ja see on selles sektoris asjakohasem kui enamikus teistes, kuna lekkivad andmed ei ole tihti ainult isikuandmed, vaid ka intellektuaalomand ja kliendikood. Governance-struktuur, mis selle kohta midagi ei sätesta, jätab riski üksiku töötaja kaela, samal ajal kui vastutus lasub organisatsioonil.
ICT-sektori juhatuse liikmel või General Counselil on tihti juba olemas riskiraamistikud infoturbe, tarkvara kvaliteedi ja tarnijahalduse jaoks. AI-governance toimib paremini, kui see ühendub selle olemasoleva struktuuriga, kui juhul, kui sellest saab eraldi protsess, mida keegi ei tunne. See kehtib siin tugevamalt kui sektorites nagu kinnisvarasektor või ehitus, kus AI-governance alustab tihti veel tühjalt lehelt. ICT-sektoris on riskikeel enamasti juba olemas; töö seisneb selle keele laiendamises, mitte selle asendamises.
Responsible AI Scan kaardistab, mis AI-d organisatsioonis toimib, sealhulgas selle, mis on tekkinud ametliku nimekirja väliselt, ja seob sellega klassifikatsiooni rolli ja riskitaseme järgi. Tulemuseks on governance-komplekt, mis ühendub olemasoleva struktuuriga, mitte uus raamistik selle kõrvale. Tööriist, mis seda toetab, on veel ehitamisel. Kes soovib seda kasutada, saab registreeruda ootenimekirja; praegu ei tarnita veel midagi väljaspool selle registreerimist.
Kui on näha, millised AI-rakendused olemas on ja mis riskitase nendega kaasneb, järgneb loomulikult järgmine küsimus: milline osa tööst, mida praegu veel inimesed teevad, on sobiv nendele rakendustele üle anda. See on teine küsimus kui governance, ja sellele vastab FTE TO AI töömahu skaneering, mis arvutab ülesande kaupa, milline osa tööst on võimalik AI-le üle anda.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.