AI lietojums pieļauj kļūdu. Lēmums nav pareizs, padoms ir maldinošs, klients tiek nepamatoti noraidīts. Jautājums, kas tad rodas, nav vien tehnisks. Kam tas būtu bijis jāparedz, kas pārvaldīja sistēmu un kas var paskaidrot, kāpēc tā tika izmantota tā, kā tika izmantota.
Tāda atbilde nepastāv nošķirti no reģistra. Atbildība pieņem, ka kāds zina, ka lietojums pastāv, kam tas kalpo un kas par to atbild. Bez šī pamata jautājums par atbildību ir retorisks: nav neviena, kas to zina, tāpēc nav neviena, kas to var paskaidrot.
Responsible AI Scan apkopo, kas darbojas, kas to lieto un ar kādu riska līmeni tas saistīts. Tas ir sākumpunkts, nevis spriedums par vainu. Skenēšana klasificē lietojumu pēc lomas un riska; tā nenovērtē, vai konkrēts lēmums bija pareizs. Šis novērtējums attiecas uz konkrēto incidentu, nevis uz inventarizāciju, kas tam sekojusi.
To, ko skenēšana dara, ir tās struktūras nodrošināšana, kuras ietvaros šo novērtējumu vēlāk var veikt. Ja ir zināms, kas lietojumu ir iegādājies, kas to pārvalda un kādam mērķim tas ir apstiprināts, tad ir līnija, pie kuras var atgriezties. Ja šādas struktūras nav, jautājums par atbildību pēc incidenta pārvēršas minējumos.
Lielākajai daļai organizāciju ir pārskats par apstiprinātu programmatūru. Šis pārskats gandrīz nekad nav pilnīgs. Darbinieki lieto rīkus, kurus neviens nav pieteicis, bieži tāpēc, ka darbs tā notiek ātrāk un neviens par to nav vaicājis. Tas pēc definīcijas nav neatbildīga rīcība; tas ir tas, kas notiek, ja organizācija nepiedāvā citu ceļu.
Kas vēlas zināt, ko tiešām lieto, tam jājautā. Un tas darbojas vien tad, ja jautāšanai nav seku. Tiklīdz darbinieks nojauš, ka patiess atbildes variants novedīs pie koriģējoša saruna, atbilde apstājas. Ko jūs darāt ar darbiniekiem, kuri lieto rīku, kuru neviens nav apstiprinājis runā tieši par šo mehānismu: inventarizācija ir tik laba, cik uzticība, ar kuru tā tiek savākta.
Pie tā pieder arī jautājums par to, kas notiek ar uzņēmuma informāciju, tiklīdz tā tiek ierakstīta ārējā logā. Ko jūs darāt ar uzņēmuma datiem bezmaksas tērzēšanas logā apraksta risku, kas nav saistīts ar ļaunprātību: kāds vienkārši vēlas pārbaudīt tekstu un pa vidam ieraksta to, ko nedrīkstēja.
Governance kopums, kas seko inventarizācijai, nosaka, kas apstiprina lietojumu, kas veic uzraudzību un kā tas tiek fiksēts. Tas iekļaujas riska struktūrā, kāda organizācijai jau ir citās jomās: tās pašas komitejas, tās pašas atskaišu līnijas, tie paši eskalācijas ceļi. Nerodas jauns aparāts blakus esošajam; esošajam tiek pievienota kategorija.
Tas nodrošina pierādāmību: valde var parādīt, ka ir paveikta izpēte, klasifikācija un ieviesta uzraudzība. Tas nenodrošina garantiju, ka lietojums vairs nekad nepieļaus kļūdu. Šie divi aspekti atšķiras, un skenēšana par otro neizsakās. Tā rezultāts ir pamats, uz kura valde var paskaidrot, kas ir darīts, nevis apdrošinājums pret to, kas var notikt turpmāk.
Biežs kļūdas veids ir izveidot atsevišķu AI procesu, nošķirtu no esošās riska un atbilstības struktūras. Šis process sākumā saņem uzmanību un pēc tam pazūd otrajā plānā, jo neviens turpina uzturēt otru sistēmu blakus pirmajai. Kāpēc otro procesu blakus esošajam ignorē izskaidro, kāpēc saskaņošana ar esošajām struktūrām nav efektivitātes jautājums, bet nosacījums, lai kaut kas turpinātu pastāvēt.
Pie tā pieder arī tas, ka inventarizācija ir mirklis, nevis galapunkts. Rodas jauni lietojumi, esošie maina funkciju, un klasifikācija, kas bija pareiza ieviešanas brīdī, automātiski nav pareiza pēc gada. Cik bieži jums vajadzētu klasificēt no jauna un kā jūs uzturat AI reģistru aktuālu apraksta, ko šī uzturēšana praksē prasa un kāpēc reģistrs, kas izveidots vienreiz, drīz vien vairs neatbilst realitātei.
Bez tam cilvēki, kas ar šiem lietojumiem strādā, ir daļa no risinājuma, ne vien risks, ko jāpārvalda. Tas, ko darbinieki saprot un nesaprot par sistēmām, kuras viņi lieto, nosaka, vai governance kopums praksē kaut ko nozīmē. Ko AI pratība nozīmē jūsu darbiniekiem pievēršas šim aspektam.
Kas reiz zina, kādi AI lietojumi darbojas un kas par tiem atbild, tas sastopas ar sekojošu jautājumu: kura daļa no darba, kas tagad notiek manuāli, ir piemērota, lai to nodotu AI lietojumam. Tas ir citāds jautājums nekā atbildība, taču tas balstās uz to pašu inventarizāciju. FTE TO AI darba skenēšana pēc uzdevuma aprēķina, kuru daļu darba var pārņemt AI, kā nākamo soli pēc tam, kad ir skaidrs, kas jau darbojas un kas par to lemj.
Šajā lapā aprakstītā skenēšana ir izstrādes procesā. Kas ir interesēts, var pieteikties gaidīšanas sarakstā; pašlaik netiek piegādāts nekas, kas nav pabeigts.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.