Küsimus, kas AI-rakendus loetakse kõrge riskiga rakenduseks, kõlab tehnilise kvalifikatsioonina. Praktikas on see liigitus, mis sõltub mitmest konkreetsest tegurist, ja see liigitus määrab, kui palju järelevalvet, dokumentatsiooni ja tõendatavust teilt oodatakse. Aktuaalsed õiguslikud määratlused ja piirmäärad ei ole sellel lehel; need leiate mujalt. Siin selgitame, millest liigitus sõltub ja mis muutub teie organisatsioonis, kui see liigitus muutub.
Ei ole ühte tunnust, mis muudab rakenduse kõrge riskiga rakenduseks. See on tegurite kombinatsioon, mis koos annavad tervikpildi: valdkond, kus rakendust kasutatakse, määr, mil otsus mõjutab otseselt konkreetset isikut, ja küsimus, kas on inimene, kes saab AI soovituse või tulemuse tegelikult hinnata ja vajaduse korral parandada enne, kui see mõju avaldab. Rakendus, mis ainult võtab teksti kokku, kuulub tavaliselt liigituses teise kategooriasse kui rakendus, mis mõjutab otsust üksikisiku kohta. Ka kontekst, milles rakendust kasutatakse, loeb: sama aluseks olev tehnoloogia võib ühes valdkonnas kehtida madala riskiga ja teises kõrge riskiga rakendusena, sõltuvalt sellest, mis tulemusega tehakse.
See on üks põhjustest, miks heakskiidetud tarkvara nimekiri ei piisa. Liigitus ei sõltu paketil olevast märgisest, vaid sellest, kuidas seda tegelikult kasutatakse ja kus see otsustusprotsessis paikneb.
Kui rakendus hinnatakse kõrgema riskiga rakenduseks, muutub see, mida organisatsioonilt oodatakse: rohkem dokumentatsiooni selle kohta, kuidas rakendus toimib ja on testitud, selgem järelevalvemehhanism tulemuste üle ning võimalus tagantjärele näidata, kes millele tähelepanu pööras. See ei ole ühekordne tegevus, vaid pidev kohustus: dokumentatsioon ja järelevalve peavad olema ajakohased, kuni rakendus on kasutuses.
Liigitus ei ole ka staatiline. Rakendus, mis täna loetakse piiratud riskiga rakenduseks, võib homme olla kasutuses teisiti — teises valdkonnas, suurema mõjuga üksikisikutele või vähema inimliku sekkumisega kui varem. Kes liigituse üks kord kindlaks määrab ja seda hiljem üle ei vaata, riskib sellega, et klassifikatsioon ei vasta enam tegelikule kasutusele. Sama kehtib rakenduste kohta, mida kohandatakse pärast soetamist; mis täpselt muutub, kui te mudelit ise kohandate, sõltub kohandamise laadist, nagu on kirjeldatud lehel mudeli kohandamise mõjude kohta.
Rakenduse klassifikatsioon on mõttekas ainult siis, kui see rakendatakse sellele, mida tegelikult kasutatakse. Suur osa kasutusest organisatsioonis toimub väljaspool ametlikku inventuuri: meeskonnad, kes kasutavad keelemudelit e-kirja kavandi koostamiseks, analüütik, kes kasutab välist mudelit raporti esimese versiooni jaoks, osakond, kes on soetanud tööriista sellest teatamata. See kasutus ei tulene soovimatusest. See tekib, kuna ametlik teekond on aeglasem kui vajadus, või kuna keegi ei teadnud, et teekonda tuli järgida.
Tagajärg on, et IT-nimekiri annab harva täieliku pildi. Kes soovib teada, mida riskiklassifikatsiooniks tegelikult vaja on, peab kasutuse enda kaardistama — ja see eeldab küsimuste esitamist inimestele, kes tööd tegelikult teevad, ilma et sellele järgneks tagajärg. Kes esimesel vestlusel juba tunneb, et aus vastus toob kaasa tagajärje, ei vasta ausalt. See muudab inventuuri kasutuks enne, kui see on valminud.
Mitte igasugune AI-rakendus ei kuulu raamistikku, kus riskiklassifikatsioon on asjakohane. Mõned rakendused jäävad oma laadi või eesmärgi tõttu väljapoole regulatsiooni ulatust, ja on mõistlik seda vahet varakult teha, enne kui kulutate aega klassifikatsioonile, mida ei ole vaja; mis rakendustega on tegu, on kirjeldatud lehel rakendustest, mis jäävad kohustuste ulatusest välja. Ka roll, mida teie organisatsioon täidab — süsteemi pakkujana või kasutajana — mõjutab, millised kohustused riskiklassifikatsiooniga kaasnevad, ja see roll ei ole alati eelnevalt selge; mis siin otsustava tähtsusega on, saate lugeda lehelt pakkuja ja kasutaja vahelise erinevuse kohta. Samuti võib see roll muutuda kohe, kui kohandate süsteemi või pakute seda enda nime all, mida on lähemalt selgitatud lehel asjaoludest, mille korral teie roll muutub.
Liigitus riskitaseme järgi tekitab peaaegu alati järgmise küsimuse, mis on sellest kiireloomuline ja mida saab veel kavandada. See vahe ei ole igas organisatsioonis sama ja sõltub sellest, millised rakendused on juba tootmises ja millised veel arenduses. Ülevaate sellest, mis tavaliselt vajab esmalt tähelepanu ja mis võib järgneda hiljem, leiate lehelt mida tuleb teha praegu ja mida saab kavandada.
Kui on selge, millised rakendused teie organisatsioonis loetakse kõrge riskiga rakendusteks, tekib loomulikult teine küsimus: kui palju aluseks olevast töö sisust tegelikult AI teeb ja kui palju inimesed, kes tulemust kontrollivad või täiendavad. See küsimus jääb selle skaneeringu ulatusest välja, kuid sellele vastab FTE TO AI töö-skaneering, mis arvutab ülesande kaupa, kui suur osa tööst on mõistlikult AI-le üle kantav.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.