Kennisbank

Klassifitseerimine ei ole ühekordne toiming

AI-rakenduse klassifikatsioon kirjeldab olukorda teatud ajahetkel: milline mudel, milline rakendus, millised kasutajad, milline risk. See olukord muutub. Tarnija kohandab mudelit, meeskond kasutab tööriista millekski muuks kui see, mille jaoks see soetati, teenusepakkuja lisab funktsiooni, ilma et keegi selleks luba küsiks. Möödunud aastal koostatud klassifikatsioon ei kirjelda seetõttu automaatselt enam tänast olukorda.

Küsimusele "kui tihti" ei ole fikseeritud vastust, mis kehtiks igas organisatsioonis. See sõltub sellest, kui palju AI-rakendusi on, kui kiiresti need muutuvad, kui mitmekesised on nendega töötavad meeskonnad ja kui range on järelevalve sektoris, kus te tegutsete. Fikseeritud aastane hetk on lähtepunkt, mitte garantii, et vahepeal midagi ei jää kahe silma vahele.

Mida fikseeritud intervall ei lahenda

Aastane või poolaastane uuesti hindamine töötab hästi rakenduste puhul, mida te juba tunnete ja mis on tulnud sisse formaalse protsessi kaudu. Rakenduste puhul, mida keegi ei ole registreerinud, fikseeritud intervall ei toimi, lihtsalt seetõttu, et fikseeritud kuupäeval ei ole midagi uuesti hinnata. Mida teha töötajatega, kes kasutavad tööriista, mida keegi ei ole heaks kiitnud kirjeldab, miks see küsimus ei lahene kalendrisse kantud korduva kohtumisega, vaid teistsuguse viisiga organisatsioonile küsimusi esitada.

Lisaks muutub risk mitte ainult sellest, mida rakendus teeb, vaid ka sellest, mida sellesse sisestatakse. Vestlusakent, mida täna kasutatakse avaliku teksti kokkuvõtmiseks, võidakse homme kasutada lepingu kokkuvõtmiseks. Mida teha ettevõtte andmetega tasuta vestlusaknas näitab, et ühe ja sama tööriista riskitase võib muutuda, ilma et tööriist ise muutuks.

Signaalid, mis nõuavad uuesti hindamist, olenemata kuupäevast

Lisaks fikseeritud hetkele on sündmused, mis nõuavad vahepealset uuesti hindamist. Muutus rakenduse funktsioonis, kasutajarühma laienemine, intsident või peaaegu juhtunud viga, tarnija tingimuste muutus või töötaja signaal, et midagi kasutatakse teisiti kui ette nähtud. Need signaalid ei ole kõik võrdselt olulised ja mitte igas organisatsioonis ei märgata neid ühtviisi kiiresti.

Küsimus, kes neile signaalidele reageerib ja kellel on omanikuvastutus uuesti hindamise enda üle, on eraldi küsimus. Kes vastutab, kui AI-rakendus tegi vea kirjeldab, et vastutus määratakse tihti kindlaks alles siis, kui midagi läheb valesti, samas kui sellele küsimusele oleks tulnud vastata juba esimese klassifikatsiooni juures.

Miks teine protsess kaob tihti kiiremini kui protsess, mis juba olemas oli

Uuesti hindamise rütm, mis lisatakse olemasolevate riskiprotsesside kõrvale, neisse integreerimata, kaotab enamasti aasta jooksul prioriteetsuse. See on lisasamm, mida keegi ei nõua, kuni midagi läheb valesti, ja just seetõttu jääb see tegemata. Miks olemasoleva kõrvale lisatud teist protsessi eiratakse selgitab, miks uuesti hindamine töötab efektiivsemalt, kui see on põimitud olemasolevasse riskijuhtimisse, mitte eraldiseisva protsessina, mis konkureerib tähelepanu pärast organisatsiooni ülejäänud osaga.

Mida meetod ei suuda

Klassifitseerimismeetod võib pakkuda struktuuri AI-rakenduste järjepidevaks hindamiseks rolli ja riskitaseme järgi, ja seda struktuuri saab korratavalt rakendada. Mida meetod ei suuda, on garanteerida, et te näete kõike. Klassifikatsioon on nii hea kui selle aluseks olev teave, ja see teave tuleb osaliselt inimestelt, kellel võib olla põhjus midagi mitte teatada. Töötaja, kes kasutab heaks kiitmata tööriista, ei teata sellest omal algatusel, kui oodatakse, et sellele järgneb sanktsioon.

Meetod ei suuda ka ennustada, millal tarnija mudelit muudab või millal rakendust, mis täna on madala riskiga, hakatakse homme teisiti kasutama. Uuesti hindamine jääb seetõttu kordamise ja avatuse korraldamise küsimuseks, mitte süsteemiks, mis seatakse üles ühekordselt ja jääb pärast seda iseseisvalt ajakohaseks. Kuidas hoida registrit ajakohasena, ilma et see paari kuu pärast taas ajast maha jääks, on kirjeldatud lehel kuidas hoida AI-registrit ajakohasena, kus keskseks teemaks on erinevus ühekordse inventuuri ja käimasoleva protsessi vahel.

Sellega kaasneb ka küsimus, mida AI järelevalve tähendab praktikas uuesti hindamise hetkede vahel: kes jälgib, millise sagedusega ja milliste signaalide alusel. Mis on inimlik järelevalve praktikas toob välja erinevuse järelevalve vahel formaalse linnukesena ja järelevalve vahel millegina, mis käib pidevalt kasutusega kaasas.

Järgmine küsimus, kui klassifikatsioon on kord paigas

Klassifikatsioon ütleb teile, milliseid rakendusi on, milline roll neil on ja milline riskitase sellele vastab. See klassifikatsioon ei ütle teile, kui palju tööst tegelikult AI teeb ja kui palju ruumi ülesande kohta veel järele jääb. Kes soovib sellele küsimusele vastata, ei saa piirduda riski-inventuuriga; see nõuab pilku töö enda peale, ülesanne ülesande haaval. FTE TO AI tööskaneering arvutab ülesande kaupa välja, kui suure osa sellest saab AI üle võtta, täiendusena pildile, mille klassifikatsioon annab.