Inimlik järelevalve pannakse sageli kirja rollina: keegi, kes on vastutav, nimi registris, linnutatud kastike. See on lähtepunkt, mitte mehhanism ise. Järelevalve tekib alles siis, kui on olemas hetk, mil inimene saab AI-rakenduse tulemust näha, mõista ja seda enne kasutusse jõudmist suunata. Ilma selle hetketa on nimi klassifikatsiooni all vaid formaalsus.
Selle, kas järelevalve praktikas toimib, määravad mitmed asjad, mis ei kujune automaatselt kokku. Peab olema keegi, kellel on volitus tulemus tagasi lükata, mitte üksnes ülesanne selle vaatamiseks. Peab olema aega vaatamiseks, mis tähendab, et protsess ei ole korraldatud nii, et AI tulemus on juba töödeldud enne kontrolli toimumist. Ja peab olema piisav arusaamine rakenduse toimimisest, et ära tunda kõrvalekaldeid. Kontrollija, kes ei saa tulemust hinnata, ei teosta järelevalvet, ka mitte siis, kui roll on formaalselt määratud.
See on seotud teemaga mida AI-kirjaoskus teie töötajate jaoks tähendab: järelevalve, milles puudub arusaamine aluseks olevast rakendusest, on paberil olev järelevalve.
Juhtimisstruktuur saab paika panna, kes mille eest vastutab, milline riskitase rakendusel on ja millised sammud sellega kaasnevad. Mida struktuur ei tee, on tagada, et see isik ka tegelikult hindab tulemust hetkel, mil see loeb. See on organisatoorne, mitte tehniline tõsiasi. Klassifikatsioon võib olla korrektne ja järelevalve võib siiski jääda tühjaks, kuna isikul, kes paberil vastutab, puudub aeg, juurdepääs või teadmised tulemuse hindamiseks.
Inventuur ja klassifikatsioon toovad esile, kus see risk on suurim: kõrgema riskitasemega rakenduste puhul või rakenduste puhul, mis on jõudnud kasutusse väljaspool tavapärast IT-protsessi. Viimane rühm on tavaliselt kõige keerulisem, sest kes soovib korraldada järelevalvet millegi üle, mida arvestuses ei ole, peab selle esmalt leidma. See puudutab küsimust mida teha töötajatega, kes kasutavad tööriista, mida keegi ei ole heaks kiitnud: varimõistuse (shadow AI) järelevalve algab tunnistamisest, et rakendus on olemas, mitte selle kasutamise karistamisest.
Rakendus, mis on täna järelevalve all, võib homme olla muutunud. Mudelit uuendatakse, sisendandmed muutuvad, või kasutus organisatsiooni sees kasvab lihtsast ülesandest millekski suurema kaaluga. Järelevalve, mis on korraldatud aasta tagasi kehtinud olukorra järgi, ei vasta enam sellele, mis praegu toimub. See on üks põhjustest, miks klassifikatsioon ei ole ühekordne toiming; kui sageli seda peab uuesti tegema, sõltub riskitasemest ja sellest, kui palju rakendus muutub, nagu on selgitatud teemas kui sageli peate uuesti klassifitseerima.
See tähendab ka, et register omab väärtust vaid siis, kui seda hooldatakse. Inventuur, mis on koostatud esimese skaneerimise käigus ja hiljem uuendamata jäetud, annab üha ebatäpsema pildi sellest, kus järelevalve on vajalik. Küsimus, kuidas organisatsioon hoiab registrit ajakohasena, on eraldiseisev küsimusest, kuidas register on koostatud, ja väärib eraldi tähelepanu: vaadake kuidas hoida AI register ajakohasena.
Juhatus, kellelt palutakse tõendada, et AI kasutuse üle teostatakse järelevalvet, ei saa piirduda rollide nimekirjaga. Tõendatavus eeldab jälge: kes vaatas millist tulemust, mis hetkel, millise volitusega suunata. See jälg on oluline ka hetkel, mil midagi läheb valesti. Küsimusele, kes vastutab, kui AI-rakendus teeb vea, ei vasta klassifikatsioon üksi, vaid sellele järgnenud tõendatav järelevalve. Neid kahte asja aetakse kergesti segamini, kuigi vahetegemine on oluline; vaadake kes vastutab, kui AI-rakendus teeb vea.
Järelevalve puudutab ka seda, mida rakendusse sisestatakse. Töötaja, kes kleebib ettevõtte andmeid tasuta vestlusaknasse, paigutab need andmed väljapoole igasugust organisatsiooni loodud järelevalvet, olenemata sellest, kui hästi on korraldatud järelevalve heaks kiidetud rakenduste üle. See on eraldi tähelepanuvaldkond laiema küsimuse raames, mida on käsitletud teemas mida teha ettevõtte andmetega tasuta vestlusaknas.
See leht kirjeldab, kuidas järelevalve toimib mehhanismina: kes vaatab, millal, millise volitusega ja kuidas seda tõendatavaks tehakse. Sisulised normid, mis määravad, millal järelevalve on kohustuslik, kui range see peab olema riskikategooria kaupa ja millise tähtaja jooksul see peab olema korraldatud, ei kuulu siia. Selline regulatiivne sisu muutub ja hoitakse ajakohasena mujal.
Ülesande üle järelevalve korraldamine on mõtekas ainult siis, kui on selge, mida see ülesanne täpselt endast kujutab ja milline osa sellest on AI-rakenduse teha. See on erinev küsimus sellest, milline roll või riskitase rakendusel on; see puudutab ülesannet ennast, jagatuna sammudeks, mida AI-rakendus saab üle võtta, ja sammudeks, mis selleks ei sobi. FTE TO AI töö-skaneering arvutab selle ülesande kaupa välja, mistõttu muutub nähtavaks, milline osa tööst on üle võetav ja milline osa peab jääma inimliku järelevalve ulatusse.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.