Daudzās organizācijās pastāv fiksēts saraksts ar pielietojumiem, kuri tiktu uzskatīti par tādiem, kas ir "ārpus tvēruma". Teksta priekšlikums teksta redaktorā, spama filtrs, čatbots, kas atbild tikai, pamatojoties uz fiksētu BUJ. Pieņēmums ir, ka šie pielietojumi ir pārāk mazi, pārāk veci vai pārāk nekaitīgi, lai uz tiem attiektos pārvaldība. Šis pieņēmums dažreiz izrādās patiess. Tas nav patiess vienmēr, un tas retos gadījumos paliek patiess ilgtermiņā.
Tas, vai kaut kas ir ārpus tvēruma, nav tehnoloģijas raksturīgā īpašība. Tā ir klasifikācija, kas izriet no tā, ko sistēma dara, kam un ar kādu ietekmi, ja kaut kas noiet greizi. Tas pats teksta priekšlikums, kas šodien ir ārpus tvēruma, jo tas darbiniekam vienkārši ierosina vārdu, rīt var atrasties tvēruma robežās, tiklīdz tas automātiski pabeidz un nosūta e-pastus bez iejaukšanās.
Trīs faktori kopā nosaka, vai pielietojums atrodas tvēruma robežās vai ārpus tā.
Pirmais ir funkcija: vai sistēma pieņem lēmumu, vai tā tikai sniedz informāciju, ko izvērtē cilvēks? Rīks, kas ranžē kandidātus, ir tuvāk tvērumam nekā rīks, kas tikai padara CV meklējamus. Kurā tieši šī spektra vietā atrodas konkrēts pielietojums un kāpēc, varat izlasīt analīzē par to, ko augsts riska līmenis nozīmē jūsu organizācijai.
Otrais ir organizācijas pašas loma. Tam, kurš iepirkst sistēmu un lieto to nemainītā veidā, ir cita pozīcija nekā tam, kurš pats to izstrādā, apmāca vai pielāgo. Tas pats pielietojums vienai organizācijai var būt ārpus tvēruma, bet citai — ne, vienkārši tāpēc, kurš uzņemas kādu atbildību. Šis iedalījums ir izklāstīts jautājumā par to, vai esat pakalpojuma sniedzējs vai lietotājs, un tas mainās, tiklīdz kāds organizācijā pielāgo vai pārapmāca modeli, kā aprakstīts tekstā par to, kas mainās, ja pats pielāgojat modeli.
Trešais faktors ir laiks. Sistēma, kas šobrīd ir ārpus tvēruma, gadu vēlāk vairs tāda var nebūt — nevis tāpēc, ka noteikumi ir mainījušies, bet tāpēc, ka mainījusies izmantošana. Čatbots, kas sākotnēji bija informācijas avots, var izaugt par sistēmu, kas apstrādā sūdzības. Komandas vai nodaļas loma attiecībā uz šādu sistēmu tad mainās līdzi, un kad tas notiek, ir aprakstīts tekstā par to, kad mainās jūsu loma un no kā tas ir atkarīgs.
Šo trīs faktoru sekas ir tādas, ka "ārpus tvēruma" nekad nav pastāvīgs statuss. Tas ir momentuzņēmums, kas jāizvērtē no jauna, tiklīdz mainās sistēmas funkcija, tiklīdz organizācijai attiecībā uz šo sistēmu ir citāda loma, vai tiklīdz izmantošana izplešas uz kaut ko, kas iegādes brīdī nebija paredzēts.
Tieši šeit ēnu-AI izjauc klasifikāciju. Pielietojums, kas IT sarakstā ir atzīmēts kā "ārpus tvēruma", praksē var tikt izmantots tā, ka šī klasifikācija vairs neatbilst realitātei. Komanda, kas izmanto valodas modeli, lai izveidotu klientu komunikācijas konceptu, iespējams, izmanto to arī, lai nosūtītu galīgas atbildes, par to nepaziņojot. Klasifikācija uz papīra un izmantošana praksē tad atšķiras, un neviens, kurš skatās vienīgi uz iepirktajām licencēm, šo atšķirību neredz.
Vienīgais veids, kā to izzināt, ir jautāt. Nevis sistēmai, bet cilvēkiem, kas to lieto. Tas darbojas vienīgi tad, ja jautājumu uzdošana nav vienāda ar norēķināšanos: kurš baidās no sekām, pielāgo savu atbildi vai to nesniedz vispār. Klasifikācija, kas balstās vienīgi uz iepirktajām licencēm, tāpēc sistemātiski nepamana pielietojumus, kas radušies praktiskas izmantošanas rezultātā, un tie bieži tieši ir tie pielietojumi, par kuriem neviens vairs nezina, vai tie joprojām ir ārpus tvēruma, vai jau atrodas tālu tā robežās.
Jautājumu "vai šis ir ārpus tvēruma" tāpēc nevar atbildēt atrauti no jautājuma, kas tieši notiek, kurš par to lemj un cik ilgi šī situācija ilgst. Inventarizācija, kas šos trīs faktorus fiksē katram pielietojumam, sniedz klasifikāciju, kas atbilst faktiskajai situācijai, nevis pieņēmumam, ar kādu sistēma kādreiz tika iegādāta. Kas šajā ziņā prasa uzmanību tagad un ko var mierīgi ieplānot, ir atkarīgs no tiem pašiem faktoriem, un tas tiek aplūkots tekstā par atšķirību starp to, kas jādara tagad, un to, ko var ieplānot.
Tiklīdz ir skaidrs, kuri pielietojumi atrodas tvēruma robežās un kāda loma jūsu organizācijai tajā ir, rodas turpmāks jautājums, kas nav par pārvaldību, bet par darbu: kāda daļa no uzdevuma faktiski tiek pārņemta ar šādu pielietojumu, un kāda daļa paliek cilvēka veikta? Uz šo jautājumu pārvaldības skenēšana neatbild. Tam ir paredzēta FTE TO AI darba skenēšana, kas katram uzdevumam izrēķina, kādu daļu no darba var pārņemt AI, tādējādi sniedzot ieskatu par klasifikācijas pamatā esošo ieguldījumu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.