re-ai-gov Uz gaidīšanas sarakstu

Kennisbank

Kas notiek, kad darbinieks atver bezmaksas tērzēšanas logu

Logs, kas vienmēr ir atvērts

Darbinieks aizķeras pie teksta, kopsavilkuma, koda gabala vai e-pasta, kas tā uzreiz nesanāk. Ir tērzēšanas logs, bezmaksas, tūlīt pieejams, bez gaidīšanas un bez formulāra. Teksts tiek ievadīts tajā, ieskaitot klienta vārdu, līguma summu, personāla lietas fragmentu vai pievienoto pirmkodu. Atbilde nāk atpakaļ, darbs ir gatavs, logs tiek aizvērts. Neviens šim nav lūdzis atļauju, un neviens nav atteicis, jo neviens par to nezināja.

Tas nav incidents. Tas ir paredzams modelis, kas rodas jebkurā punktā, kur darba slodze ir lielāka par piepūli, kas nepieciešama, lai kaut ko pajautātu. Termiņš, tukša atbilde uz jautājumu, ko uzņēmums nedz skaidri ir atļāvis, nedz aizliegumis, un bezmaksas rīks, kas ir ātrāks nekā iekšējais process: šī kombinācija pati par sevi noved pie šādas rīcības, neatkarīgi no nozares vai organizācijas lieluma.

Kāpēc tas pats no sevis nepazūd

Aizliegums politikas dokumentā nemaina to brīdi, kad termiņš spiedīs. Tērzēšanas logs paliek pieejams, darbinieks paliek spiediena zem, un izvēle starp "ātri gatavs" un "pēc noteikumiem" biežāk krīt "ātri gatavs" labā. Tā nav negribēšana. Tā ir organizācija, kas ir padarījusi loga izmantošanu vieglāku nekā to nedarīt.

Modelis ir ļoti līdzīgs tam, kas notiek nodaļā, kas pati noslēgusi abonementu: kāds redz problēmu, atrod risinājumu, kas ir pieejams budžeta ietvaros un bez apstiprināšanas procesa, un rīkojas. Atšķirība ir tāda, ka tērzēšanas logam nav nepieciešama iepirkuma rinda. Nav rēķina, kas izceltos, nav līguma, kam jāiet caur juridisko nodaļu, nav abonementa, kas parādītos pārskatā. Lietošana neatstāj pēdas, izņemot vienas darbinieka pārlūkprogrammas vēsturē, un dažreiz ne pat to.

Tādēļ tas turpina pastāvēt līdzās katram oficiālajam procesam, ko organizācija ir izveidojusi. Kas izbūvē apstiprinātu alternatīvu, bet neaptur vai nepadara nepievilcīgu bezmaksas logu, redz precīzi to pašu efektu, kas rodas, kad otrs process līdzās esošajam tiek ignorēts: jauno sistēmu nelieto, jo vecā liekas ātrāka vai vienkārši tā ir ieradums.

Ko IT sarakts neparāda

Apstiprinātas programmatūras uzskaite parāda, kas ir iegādāts. Tā neko neparāda par to, kas tiek izmantots. Tērzēšanas logs pārlūkprogrammas cilnē, pārlūkprogrammas paplašinājums ar piekļuvi e-pastam, AI funkcija, kas kaut kur dziļi ir pievienota esošam abonementam: šāda veida lietošana rodas ārpus jebkura iepirkuma procesa un tāpēc neparādās sarakstā, ko pārvalda IT. Sarakts nav kļūdains, tas vienkārši nav pilnīgs, un atšķirība starp šīm divām lietām ir tieši tā, kur mīt ēnu AI.

Vienīgais veids, kā zināt, kas patiešām notiek, ir pajautāt. Ne kā kontroli, ne kā sankcijas priekšvēstnesi, bet kā jautājumu, uz kuru ir iespējama patiesa atbilde. Kas jūt, ka atbilde uz "kādus rīkus jūs izmantojat papildus apstiprinātajām sistēmām" novedīs pie sarunas ar vadītāju, šo atbildi nesniegs. Tad organizācija paliek atkarīga no tā, kas nejauši nāk gaismā: rēķins, kas ir tikai nedaudz neparasts, kolēģis, kas to nejauši piemin, vai klienta sūdzība, kura dati kaut kur ir parādījušies, kur tiem nebūtu vajadzējis nonākt.

Kartēšana bez raganu medībām

Apkopojums, kas sākas ar pārmetumiem, nedod apkopojumu, bet klusumu. Darbinieki, kas zina, ka patiesa atbilde radīs problēmu, vienkārši atvērs logu inkognito režīmā. Mērķis nav sodīt vakardienas rīcību; mērķis ir iegūt aktuālu priekšstatu par to, kas tagad darbojas, kas to lieto un kādam nolūkam, lai šī lietošana varētu iegūt vietu esošajā riska ietvarā, nevis turpinātu pastāvēt tam līdzās.

Tas attiecas arī uz AI, kas nonāk nevis caur tērzēšanas logu, bet caur piegādātāju. Kad piegādātājs ir iebūvējis AI produktā, kas jau bija lietošanā, datu apstrādes raksturs mainās, bez tam, ka būtu parakstīts jauns līgums. Un izmēģinājuma uzstādījums, kas labi darbojās, reti tiek formāli izbeigts: tas turpina darboties, arī pēc tam, kad izmēģinājuma uzstādījums nekad nav izslēgts, kamēr neviens vairs nezina, kas par to ir atbildīgs. Visos trīs gadījumos runa nav par ļaunprātību, bet par plaisu starp to, kas ir apstiprināts, un to, kas darbojas. Kur uzraudzība praksē iegūst formu šādās vietās, ir aplūkots lapā par ko cilvēka veikta uzraudzība nozīmē praksē; noteikumu satura pats par sevi atrodas citur un tas neko nemaina.

Kas pēc tam ir pārskatāms

Tiklīdz ir skaidrs, kāda AI faktiski tiek lietota, rodas cita veida jautājums: kura daļa no darba, kas tagad notiek caur bezmaksas tērzēšanas logu, patiesībā pieder pie uzdevuma, ko AI var pārņemt strukturēti, un kura daļa - ne. Šo atšķirību padara pārskatāmu FTE TO AI darba skenēšana: tā rēķina katram uzdevumam, kādu daļu no darba var pārņemt AI, lai lietošana, kas tagad ir noslēpta pārlūkprogrammas logā, varētu iegūt vietu, kas atbilst tam, ko darbs faktiski pieprasa.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.