IT nozarei ir tāda pozīcija, kādas nav nevienai citai nozarei: šeit AI nevis tikai izmanto, šeit to arī veido, integrē un tālāk pārdod. Izstrādātājs, kas savieno valodas modeli ar aplikāciju, konsultants, kas iestrādā AI funkciju klienta projektā, komanda, kas pielāgo atvērtā koda modeli — tie nav izņēmumi, tas ir ikdienas darbs. Attiecība starp to, ko lemj organizācija pati, un to, ko pievieno atsevišķs darbinieks vai komanda, šajā nozarē ir citāda nekā bankā vai būvniecības uzņēmumā. Kur citās nozarēs AI ir papildinājums esošajiem procesiem, IT nozarē AI bieži ir pašas produkcijas sastāvdaļa. Tas nozīmē, ka governance attiecas nevis tikai uz iekšējiem rīkiem, bet arī uz to, kas iekļauts programmatūrā, kas tiek piegādāta trešajām pusēm.
Daudzās nozarēs IT nodaļa ir tā, kurai ir pārskats par to, kas darbojas. IT nozarē šis pieņēmums ir vājāks nekā citur, tieši tāpēc, ka gandrīz katram ir tehniskās zināšanas, lai pieprasītu API atslēgu, lejupielādētu modeli vai iestrādātu AI funkciju kodubāzē, un tam nav nepieciešams pieprasījums, licence vai apstiprinājuma process. Izstrādātājs, kas izmanto valodas modeli, lai ģenerētu kodu, arhitekts, kas testē AI aģentu smilškastē, pārdošanas komanda, kas veido demonstrāciju ar ārēju modeli — šie lēmumi tiek pieņemti projekta līmenī, nevis valdes līmenī. Inventarizācija, kas sākas ar iepirktajām licencēm, tāpēc palaiž garām būtisku daļu no tā, kas patiesībā notiek. Jautājums nav, vai pastāv ēnu AI, bet cik lielā mērā uz tā šobrīd balstās produkcijas vide, bez tam, ka kāds to būtu dokumentējis.
Tehniskie līdzekļi AI izmantošanas atklāšanai pastāv, bet tie bieži redz tikai to, kas notiek uzņēmuma tīklos un pārvaldītās ierīcēs. Nozarē, kur daudz darba notiek pašu izstrādes vidēs, personīgajos kontos un klientu projektos ar savu infrastruktūru, tas dod ierobežotu priekšstatu. Vispilnīgāko informāciju sniedz tie cilvēki, kas veic darbu. Tas darbojas tikai tad, ja jautājums tiek uzdots bez sodīšanas: kāds, kas zina, ka patiess atbildējums novedīs pie sankcijas, nesniegs patiesu atbildi. Kā novērst, ka darbinieki izmanto rīku, ko neviens nav apstiprinājis tāpēc nesākas ar kontroli, bet ar aicinājumu ziņot par to, kas jau notiek. Tā ir cita secība, nekā pie kā vairums organizāciju ir pieradušas, un IT nozarē šī secība ir īpaši svarīga, jo neuzticēšanās starp izstrādes komandām un atbilstības nodaļām šeit bieži jau ir esoša.
Ne katrs AI izmantojums IT nozarē prasa vienādu uzmanību. Modelis, kas apkopo iekšējo dokumentāciju, ir citāds nekā modelis, kas piedalās lēmumā par piekļuves tiesībām vai kas darbojas kā piegādāta produkta daļa pie klienta. Klasifikācija pēc lomas un riska līmeņa tāpēc nav kaut kas, ko izdara vienreiz, bet kaut kas, kam jāpielāgojas tam, ko komanda būvē. Tā ir cita dinamika nekā nozarēs ar stabilākiem procesiem, kā tas aprakstīts governance apraksti nozarēs finanšu pakalpojumi vai energētikas nozare, kur AI pielietojumi parasti paliek stabilā darbības struktūrā. IT nozarē pielietojums dažreiz mainās straujāk, nekā klasifikācija var izsekot, kas nozīmē, ka pašai governance struktūrai jābūt vietai atkārtotam novērtējumam, ne tikai vienreizējam apstiprinājumam.
Risks, kas IT nozarē iegūst savu specifisku nokrāsu, ir bezmaksas vai publisku AI rīku izmantošana darbam, kam patiesībā vajadzētu būt konfidenciālam: pirmkods, klientu dati, iekšējā arhitektūra, līguma nosacījumi. Izstrādātājs, kas ātri liek publiskam modelim pārbaudīt kāda koda gabalu, nedomā par to, kas notiek ar šo ievadi. Kā novērst, ka uzņēmuma dati nonāk bezmaksas tērzēšanas logā aprakstīts šis mehānisms, un tas šajā nozarē ir vairāk būtisks nekā vairumā citu, jo dati, kas noplūst, bieži nav tikai personas dati, bet arī intelektuālais īpašums un klienta kods. Governance struktūra, kas par to neko nenoteic, atstāj risku uz atsevišķa darbinieka pleciem, kamēr pati eksponētība ir organizācijas ziņā.
Valdes loceklim vai General Counsel IT nozarē bieži jau ir risku ietvari informācijas drošībai, programmatūras kvalitātei un piegādātāju pārvaldībai. AI-governance darbojas labāk, ja tā pieslēdzas šai esošajai struktūrai, nevis kļūst par atsevišķu procesu, ko neviens neatpazīst. Tas šeit ir svarīgāk nekā nozarēs, piemēram, nekustamā īpašuma nozare vai būvniecība, kur AI-governance bieži vēl sākas no tukšas lapas. IT nozarē parasti risku valoda jau ir klāt; darbs ir šo valodu paplašināt, nevis to aizstāt.
Responsible AI Scan apkopo, kāda AI darbojas organizācijā, ieskaitot to, kas radusies ārpus oficiālā saraksta, un pievieno tam klasifikāciju pēc lomas un riska līmeņa. Rezultāts ir governance kopums, kas pieslēdzas esošajai struktūrai, nevis jauns ietvars tai blakus. Rīks, kas to atbalsta, vēl tiek būvēts. Kas vēlas to izmantot, var pieteikties gaidīšanas sarakstā; šobrīd bez šīs pierakstīšanās nekas vairāk netiek piegādāts.
Tiklīdz ir redzams, kādi AI pielietojumi pastāv un kāds riska līmenis tiem atbilst, pats no sevis sekos nākamais jautājums: kura daļa no darba, ko šobrīd vēl veic cilvēki, ir piemērota nodošanai šiem pielietojumiem. Tas ir cits jautājums nekā governance, un uz to atbild FTE TO AI darba skenēšana, kas katram uzdevumam aprēķina, kādu daļu darba var pārņemt AI.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.