Biznesa pakalpojumu nozare nepārdod produktu, bet spriedumu: padomu, analīzi, otro atzinumu. Tas padara attiekšanos ar AI atšķirīgu no nozarēm, kurās AI galvenokārt paātrina procesus. Šeit AI tieši skar profesijas pašu kodolu — domāšanas darbu, un konfidencialitāti tā, ko klients ir uzticējis, lai šo domāšanas darbu padarītu iespējamu. Advokāts, kas ievada valodas modelī lietas materiālus, konsultants, kas liek čatbotam pārbaudīt analīzes koncepciju, grāmatvedis, kas liek ārējai sistēmai apkopot skaitļus: katrā gadījumā pārvietojas informācija, kurai patiesībā būtu vajadzējis palikt biroja sienu un klienta uzticības attiecību robežās.
Attiecība starp to, ko organizācijas šeit ir oficiāli iegādājušās, un to, ko darbinieki faktiski lieto, parasti nav līdzsvarā. Kur nozarēs ar daudz operatīvo procesu AI bieži tiek ieviesta ar IT nodaļas starpniecību, konsultāciju un juridisko biroju spiediens ir galvenokārt individuāls: kāds ar termiņu un AI rīku, kas strādā ātrāk nekā kolēģis līdzās. Tas padara ēnu-AI šeit nevis izņēmumu, bet ticamu normu — tieši nozarē, kur laiks tiek rēķināts un ātrums tiek apbalvots.
Programmatūras licenču pārskats rāda, kas ir iegādāts, nevis to, kas tiek lietots. Turklāt biznesa pakalpojumu nozarē lielā daļā personāla strādā ar saviem ierīcēm, savām pārlūkprogrammu paplašinājumiem un savām abonēšanas iespējām AI pakalpojumiem, kurus izmēģināt neko nemaksā. Partneris vai vecākais konsultants, kas lieto valodas modeli, lai pārbaudītu memoranda projektu, nekur nav redzams IT informācijas panelī. Taču tieši šī lietošana ir tā, kurai ir visaugstākais risks: tā skar klienta konfidencialitāti, profesionālo noslēpumu, jautājumu, kurš par ko atbild, kad padoms ir daļēji veidots ar algoritma palīdzību.
Vienīgais veids, kā uzzināt, ko patiešām notiek, ir jautāt — un šai jautāšanai ir jēga tikai tad, ja atbildētājam nekas nav apdraudēts. Darbinieks, kas nojauš, ka atzīšanās AI lietošanā izraisīs sarunu par nespēju pildīt darbu, atbildēs noliedzoši vai vispār neatbildēs. Inventarizācija, kas balstās uz uzticību, nevis kontroli, sniegs citu ainu: nepilnīgu, taču godīgāku nekā sarakts, kurā tikai summēts tas, kas ir apstiprināts.
AI lietošana šajā nozarē neietilpst vienā kategorijā. Rīkam, kas pārbauda faktus juridiskā dokumentā, ir cits risks nekā rīkam, kas apkopo iekšēju procesa dokumentu. Sistēmai, kas piedalās nodokļu padoma rakstīšanā, kurš tiek nosūtīts klientam, nepieciešams citāda veida cilvēka veiktā pārraudzība nekā rīkam, kas sakārto sanāksmju protokolus. Pārvaldība, kas darbojas, sākas ar šo lomu un riska līmeņu atšķiršanu, un tam pievieno piemērotu uzraudzības līmeni — ne pēc tā, kā sistēma tiek nosaukta, bet pēc tā, ko sistēma dara un kam galu galā ir domāts rezultāts.
Šīs nozares birojiem bieži jau ir riska pārvaldības struktūras: lietu pārskatīšana, četru-acu principi, atbilstības pārbaude, kvalitātes kontrole. AI pārvaldības pieeja, kas ar tām nav saistīta, kļūst par papildu slāni, kuru neviens neuzņemsies. Lietderīgāk ir pieeja, kas pieslēdzas esošajai riska struktūrai: tie paši īpašnieki, tās pašas atskaišu līnijas, tas pats pārbaudes ritms, ar AI lietošanu kā daļu no tā, kas jau tiek pārbaudīts, nevis kā atsevišķu procesu.
Valdes loceklim vai General Counsel, kuram jautā, kā AI lietošana birojā ir nodrošināta, iespaids nepalīdz. Pierādāmība prasa dokumentētu inventarizāciju: kādi rīki, kāda loma, kāds riska līmenis, kādas vienošanās par to, ko ar tiem drīkst un ko nedrīkst darīt. Tas primāri nav pārskatatbildība uz āru — tas vispirms ir instrumentu valdei pašai, lai zinātu, ko tā vada, pirms to pieprasa uzraudzības iestāde, klients vai pati riska komiteja.
Veids, kā rodas ēnu-AI, un veids, kā pārvaldība uz to var pieslēgties, atšķiras pēc nozares. Tie, kas vēlas salīdzināt, kā šis jautājums izpaužas nozarē, kur savienojas daudz sistēmu un klientu kontakti, to atradīs AI-pārvaldībā finanšu pakalpojumu nozarē; tie, kas vēlas redzēt, kā tas izpaužas nozarē, kura pati veido un lieto AI produktus, var izlasīt to AI-pārvaldībā IT nozarē; un priekš tā, kā tas darbojas organizācijās ar daudz operatīvā personāla un mazu centrālo IT vadību, ir AI-pārvaldība mazumtirdzniecībā.
AI lietošanas inventarizācija parāda, kas darbojas un kas to lieto, taču neatbild uz jautājumu, kas rodas pēc tam: kura daļa no paša darba faktiski var tikt nodota AI, un kura daļa nevar. Tas ir citāds rēķins, pēc uzdevuma, nevis pēc rīka. FTE TO AI darba skenēšana veic šo rēķinu: katram uzdevumam tiek noteikts, kura darba daļa ir piemērota, lai to pārņemtu AI, kā turpmāks solis pārskatam, ko sniedz Responsible AI Scan.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.