Darbinieks ielīmē teksta gabalu bezmaksas tērzēšanas logā, jo tas darbojas ātrāk nekā iekšējā sistēma. Komanda noslēdz abonementu AI rīkam, jo pieprasījums pēc kaut kā oficiāla ilgtu nedēļām. Piegādātājs pievieno AI funkcionalitāti programmatūrai, kas jau gadiem tiek lietota, bez tam, ka par to būtu notikusi kāda saruna. Neviens no šiem cilvēkiem nemēģina kaut ko noslēpt. Viņi mēģina paveikt savu darbu.
Tas ir ēnu AI būtība: tas nerodas no negribēšanas, bet no plaisas starp to, kas cilvēkiem ir nepieciešams, un to, ko sniedz formālais process. Kamēr šī plaisa pastāv, ēnu AI turpina rasties, neatkarīgi no tā, cik daudz politiku tiek uzrakstīts.
Lielākajai daļai organizāciju ir apstiprinātas programmatūras pārskats. Šis pārskats ir sākumpunkts, ne realitātes atspoguļojums. Tas, ko cilvēki faktiski lieto, tam gandrīz vienmēr ir priekšā: jautājums par to, kā novērst uzņēmuma datu nokļūšanu bezmaksas tērzēšanas logā parāda, cik vienkārši rīks var izkļūt no jebkāda pārskata. Tas pats attiecas uz nodaļu, kas pēc savas iniciatīvas noslēdz abonementu, jo standarta ceļš liekas pārāk lēns, vai uz pārlūkprogrammas paplašinājumu, kas iegūst piekļuvi e-pastam, bez tam, ka tam pastāvētu atsevišķs apstiprinājums. Neviena no šīm situācijām nav IT sarakstā. Tomēr tās pastāv.
Pastāv tendence ēnu AI uzskatīt par izpildes problēmu: aizliegt, bloķēt, sodīt. Tas darbojas pretēji vēlamajam. Tas, kurš zina, ka patiess atbilde noved pie problēmas, patiesu atbildi vairs nesniedz. Rīks nepazūd, tas kļūst neredzamāks. Precīzi pretēji tam, kas organizācijai ir nepieciešams.
Otrs iemesls, kāpēc tas neatrisinās pats no sevis: pastāvošā pārvaldība bieži ir izveidota programmatūrai, kuru pērk un instalē, ne pakalpojumam, ko kāds atver pārlūkprogrammā un pamet nākamajā dienā. Izmēģinājuma iestatījums, kas kādreiz bija domāts kā pagaidu parāda, kā kaut kas mazs, bez skaidra novērtēšanas brīža, var pastāvēt gadiem ilgi, un neviens nejūtas par to atbildīgs. Bez procesa, kas šāda veida lietojumu strukturāli pamana, tas paliek nepamanīts, cik labi arī nebūtu nodomi.
Vienīgais veids, kā zināt, kas notiek, ir vaicāt. Ne kā kontroli, bet kā apzināšanu. Darbinieki, kas zina, ka patiesa atbilde nenoved pie sarunas ar HR, šo atbildi arī sniedz. Tam ir nepieciešams tonis un process, kas jau iepriekš skaidri parāda: šis attiecas uz pārskata iegūšanu, ne uz kāda vainošanu.
Pie tā pieder arī uzmanība veidam, kādā jaunie procesi tiek novietoti līdzās esošajiem. Otrs process, kas tiek novietots līdzās esošajam, bez tam, ka pirmais tiktu pielāgots vai atsaukts, bieži tiek ignorēts, vienkārši tāpēc, ka cilvēki paliek pie savas ieražas. Apzināšana, kas nāk kā papildu pienākums virs darba, saņem to pašu apstrādi.
Tiklīdz ir skaidrs, kas patiešām tiek lietots, seko nākamais jautājums: ko šis rīks dara, un kāds risks tam pieder. Rīks, kas apkopo tekstu iekšējai lietošanai, prasa kaut ko citu nekā rīks, kas piedalās lēmumos par klientu akceptēšanu vai personāla vērtējumu. Šī klasifikācija pēc lomas un riska līmeņa ir tas, kas apzināšanu pārvērš par kaut ko lietderīgu: pamatu, uz kura valde, CIO vai General Counsel var izklāstīt, kas notiek un kāpēc tas ir atbildams.
Šis pārvaldības slānis pieskan pie riska struktūras, kas organizācijai jau ir, ne pie jauna, tam paralēla, ietvara. Noteikumu satura, kam AI pielietojumiem jāatbilst, saturs mainās un tiek uzturēts aktuāls citur; šeit svarīgi ir tas, ka organizācijai ir darbojošs veids, kā zināt, kas darbojas, kurš par to ir atbildīgs, un kā tas tiek padarīts pierādāms valdei vai uzraudzības iestādei.
Tiklīdz skaidrs, kāds AI faktiski tiek lietots un kāds risks ar to saistīts, pats no sevis rodas cits jautājums: kādu daļu no darba AI pielietojums patiesībā varētu pārņemt, un kādu ne. Tas ir cits jautājums nekā apstiprinājuma un uzraudzības jautājums, bet tāds, kas loģiski no tā izriet. FTE TO AI darba skenēšana pa uzdevumiem izrēķina, kādu darba daļu AI var pārņemt, pamatojoties uz to, ko funkcija faktiski ietver. Kur Responsible AI Scan sakārto to, kas jau darbojas, darba skenēšana parāda, kas ir vēl iegūstams.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.