Cilvēka uzraudzība bieži tiek noteikta kā loma: kāds, kas ir atbildīgs, vārds reģistrā, atzīmēts lodziņš. Tas ir sākumpunkts, nevis pats mehānisms. Uzraudzība rodas tikai tad, ja pastāv brīdis, kurā cilvēks var redzēt AI lietojuma rezultātu, saprast to un koriģēt to, pirms šis rezultāts kaut kur nonāk. Bez šāda brīža vārds zem klasifikācijas ir formalitāte.
Tas, vai uzraudzība praksē darbojas, ir atkarīgs no vairākiem faktoriem, kas ne vienmēr saskan paši par sevi. Ir jābūt kādam, kam ir pilnvaras rezultātu apturēt, nevis tikai uzdevums to apskatīt. Ir jābūt laikam, lai to izdarītu, kas nozīmē, ka process nav iekārtots tā, ka AI rezultāts jau ir apstrādāts, pirms notiek kontrole. Un ir jābūt pietiekamai izpratnei par to, ko lietojums dara, lai atpazītu novirzi. Kontrolieris, kas nevar novērtēt rezultātu, uzraudzību neveic, pat ja loma formāli ir piešķirta.
Tas ir saistīts ar to, ko AI pratība nozīmē jūsu darbiniekiem: uzraudzība bez izpratnes par pamatā esošo lietojumu ir uzraudzība uz papīra.
Pārvaldības struktūra var noteikt, kurš par ko ir atbildīgs, kāds riska līmenis ir lietojumam un kādi soļi tam atbilst. To, ko struktūra nedara, ir garantēt, ka šī persona rezultātu faktiski novērtēs tajā brīdī, kad tas ir svarīgi. Tas ir organizatorisks fakts, nevis tehnisks fakts. Klasifikācija var būt pareiza, un uzraudzība tomēr var būt tukša, jo persona, kas uz papīra ir atbildīga, nav laika, piekļuves vai zināšanu, lai rezultātu izvērtētu.
Inventarizācija un klasifikācija atklāj, kur šis risks ir vislielākais: lietojumiem ar augstāku riska līmeni vai lietojumiem, kas ir nonākuši organizācijā ārpus regulārā IT procesa. Šī pēdējā grupa bieži ir vissarežģītākā, jo tam, kurš vēlas organizēt uzraudzību par kaut ko, kas nav administrācijā, to vispirms jāatrod. Tas skar jautājumu, ko jūs darāt ar darbiniekiem, kuri lieto rīku, ko neviens nav apstiprinājis: uzraudzība pār ēnu AI sākas ar atzīšanu, ka šis lietojums pastāv, nevis ar sankciju par tā izmantošanu.
Lietojums, kas šodien atrodas uzraudzībā, rīt var būt mainījies. Modelis tiek atjaunināts, ievaddati mainās, vai lietojums organizācijā izaug no vienkārša uzdevuma līdz kaut kam ar lielāku svaru. Uzraudzība, kas iekārtota atbilstoši situācijai, kāda bija gadu atpakaļ, vairs neatbilst tam, kas notiek tagad. Tas ir viens no iemesliem, kāpēc klasifikācija nav vienreizējs pasākums; cik bieži tas jāveic no jauna, ir atkarīgs no riska līmeņa un no tā, kādā mērā lietojums mainās, kā izklāstīts sadaļā cik bieži jums jāveic pārklasifikācija.
Tas nozīmē arī to, ka reģistram ir vērtība tikai tad, ja to uztur. Inventarizācija, kas izveidota pirmās skenēšanas laikā un pēc tam netiek atjaunināta, sniedz arvien neprecīzāku priekšstatu par to, kur uzraudzība ir nepieciešama. Jautājums, kā organizācija šo reģistru uztur aktuālu, ir atsevišķs no jautājuma, kā reģistrs ir izveidots, un tas ir pelnījis savu uzmanību: skatiet kā jūs uzturat AI reģistru aktuālu.
Valde, no kuras tiek prasīts pierādīt, ka pastāv uzraudzība pār AI lietojumu, nevar aprobežoties ar lomu sarakstu. Pierādāmība prasa pēdas: kurš kādu rezultātu apskatīja, kurā brīdī, ar kādām pilnvarām to koriģēt. Šīs pēdas ir svarīgas arī tad, kad kaut kas noiet greizi. Jautājumu, kurš ir atbildīgs, ja AI lietojums pieļauj kļūdu, neatbild klasifikācija pati par sevi, bet gan pierādāmā uzraudzība, kas tai sekojusi. Šīs divas lietas viegli tiek sajauktas, kaut arī nošķīrums ir būtisks; skatiet kurš ir atbildīgs, ja AI lietojums pieļauj kļūdu.
Uzraudzība skar arī to, kas lietojumā tiek ievadīts. Darbinieks, kas ielīmē uzņēmuma datus bezmaksas sarunu logā, novieto šos datus ārpus visas uzraudzības, kādu organizācija ir izveidojusi, neatkarīgi no tā, cik labi ir organizēta uzraudzība pār apstiprinātajiem lietojumiem. Tā ir atsevišķa uzmanības joma plašākā jautājuma ietvaros, izklāstīta sadaļā ko jūs darāt ar uzņēmuma datiem bezmaksas sarunu logā.
Šī lapa apraksta, kā uzraudzība darbojas kā mehānisms: kurš skatās, kad, ar kādām pilnvarām un kā tas tiek padarīts pierādāms. Saturiskie normatīvi, kas nosaka, kad uzraudzība ir obligāta, cik stingrai šai uzraudzībai jābūt katrā riska kategorijā un kādos termiņos tas jāievieš, šeit nav aprakstīti. Šis regulējuma saturs mainās un tiek uzturēts aktuāls citur.
Uzraudzības organizēšana par uzdevumu ir jēgpilna vienīgi tad, ja ir skaidrs, ko šis uzdevums precīzi ietver un kuru tā daļu veic AI lietojums. Tas ir citāds jautājums nekā tas, kāda loma vai riska līmenis ir lietojumam; runa ir par pašu uzdevumu, sadalītu soļos, kurus AI lietojums var pārņemt, un soļos, kas šim nolūkam nav piemēroti. FTE TO AI darba skenēšana to aprēķina katram uzdevumam atsevišķi, lai būtu redzams, kuru darba daļu var pārņemt un kurai daļai jāpaliek cilvēka uzraudzības tvērumā.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.