Küsimus, kas AI-rakendus loetakse teie organisatsioonis kõrge riskiga rakenduseks, ei ole küsimus, millele vastate ühekordselt ja mille siis linnukesega märgite. See on tulem mitmest tegurist, mis koos määravad, kui suure kaaluga rakendus on. Kui üks neist teguritest muutub, võib muutuda ka liigitus. See teeb riskiklassifikatsioonist vähem täitmise küsimuse ja rohkem jälgimise küsimuse.
See leht kirjeldab liigituse taga olevat mehhanismi: millest see sõltub ja mis juhtub, kui olukord muutub. Kehtivad õiguslikud määratlused ja piirmäärad on esitatud mujal; siin on kõne all see, mida peate oma organisatsioonis suutma näha ja tõendada.
Mitu tegurit mängib struktuurselt rolli küsimuses, kas rakendus on suure kaaluga.
Esimene on valdkond, kus rakendust kasutatakse. Mõned valdkonnad — mõelgem otsustele inimeste, nende võimaluste või õiguste kohta — kaaluvad rohkem kui rakendused, mis on üksnes sisemised ja toetavad. Vahet teeb ka see, mida rakendus konkreetselt selles valdkonnas teeb: süsteem, mis nõustab, kaalub teisiti kui süsteem, mis otsustab automaatselt.
Teine tegur on roll, mida teie organisatsioon süsteemi suhtes täidab. Ehitate seda ise, ostate selle sisse või kasutate teenust, milles on AI töödeldud, ilma et oleksite selle sellisena hankinud? Roll, mida täidate — pakkuja või kasutaja — määrab osaliselt, millised kohustused langevad teie õlule ja milline osa vastutusest jääb tarnijale.
Kolmas tegur on see, mis mudeliga toimub pärast esimest kasutuselevõttu. Süsteem, mida kasutatakse muutmatult sellisena, kuidas see on tarnitud, on teistsugune olukord kui süsteem, mida häälestate, konfigureerite ümber või laete õppima oma andmetel. Mis muutub, kui kohandate mudelit ise on seega küsimus, millele tuleb vastata eraldi — kohandamine võib süsteemi kategooriat muuta.
Neljas tegur on ulatus: kui palju inimesi puudutatakse, millise sagedusega ja kui pöördumatu on viga. Rakendus, mida kasutab aeg-ajalt väike meeskond, kaalub teisiti kui rakendus, mis mõjutab igapäevaselt tuhandete klientide üle otsustamist.
Need tegurid ei ole staatilised. Rakendus, mis täna loetakse piiratud riskiga rakenduseks, ei pea seda homme enam olema — mitte sellepärast, et reeglid muutusid, vaid sellepärast, et rakendus ise muutus. Piloot, mis laieneb kogu organisatsioonile, sisemine tööriist, mis hakkab mõjutama kliendiprotsessi, mudel, mida treenitakse edasi uutel andmetel: kõik need sammud võivad liigituse ümber kaaluda.
See tähendab, et klassifikatsioon ei ole ühekordne harjutus. See on küsimus, mis tuleb esitada uuesti iga kord, kui midagi muutub selles, mida süsteem teeb, keda see puudutab või kes seda haldab. Juhtimisstruktuur, mis sellega kaasas ei käi, jääb praktikale jalgu.
Mitte igal AI-rakendusel ei ole vaja läbida seda kogu protsessi. Osa sellest, mis organisatsioonis toimib, jääb riskiklassifikatsiooni ulatusest välja — näiteks kuna see ei puuduta otsuseid inimeste kohta või kuna sellel on üksnes toetav, mitteotsustav funktsioon. Kus see piir täpselt jookseb ja millised rakendused jäävad ulatusest välja sõltub samadest teguritest, mis eespool kirjeldatud: valdkond, roll, kohandamine ja ulatus. See ei ole seega eraldi nimekiri, vaid selle sama hinnangu teine külg.
Liigitus iseenesest ei muuda midagi. See määrab ainult, millised järgmised sammud on asjakohased ja millise kiireloomulisusega. Mõned tegevused on vajalikud kohe, teisi saab planeerida — ja mida tuleb teha nüüd ja mida saab planeerida sõltub omakorda sellest, kui suure kaaluga rakendus on ja kui palju inimesi see puudutab.
Selleks, et need sammud oleksid nähtavad ja jälgitavad, tuleb klassifikatsiooni- ja järgmiste tegevuste otsused kuhugi jäädvustada — mitte üksikute märkmetena, vaid osana järelevalveotsuste nimekirjast, mis näitab, kes mida otsustas ja millise teabe põhjal. Ilma sellise jäädvustamiseta on liigitus hetkepilt, mida keegi ei suuda enam taastada.
Sellele liigitusküsimusele saab hästi vastata vaid siis, kui on teada, mis tegelikult käigus on. IT-osakonna heakskiidetud tööriistade nimekiri ei ole selleks piisav: suur osa kasutusest tekib väljaspool seda nimekirja, meeskondades, mis on hakanud tööriista kasutama, teatamata sellest kuskil. Kes soovib sellest kasutusest ülevaadet saada, peab selle kohta küsima — ja tegema seda ainult niimoodi, et sellega ei kaasneks tagajärgi, vastasel juhul vastust ei saa.
Niipea kui on selge, millised rakendused olemas on ja kuidas need kaaluvad, tekib järgmine küsimus, mis ei käsitle enam riski, vaid tööd: millise osa ülesandest saab AI-süsteem üle võtta ja milline osa jääb inimtööks. Sellele küsimusele vastab FTE TO AI töömahuskann, mis arvutab ülesande kaupa, milline osa töö on üle võetav — teistsugune vaatenurk kui riskiklassifikatsioon, aga selline, mis toetub samale inventuurile.
See leht kirjeldab liigituse taga olevat mehhanismi. Responsible AI Scan ise on arendamisel; kes soovib selle tulemusi kasutada niipea, kui need saadaval on, saab registreeruda ootenimekirja.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.