re-ai-gov Na čakalni seznam

Kennisbank

Vzdrževanje AI-registra aktualnega: način dela

AI-register je na dan, ko je izdelan, že delno zastarel. Pojavi se novo orodje, nekdo obstoječo naročnino razširi z AI-funkcijo, ekipa preneha z nekim postopkom, ki je bil na seznamu. Register ni dokument, ki ga zaključite. Je proces, ki mora teči naprej, sicer se v nekaj mesecih ustavi.

Vprašanje "kako ga vzdržujete aktualnega" je zato pomembnejše od vprašanja "kako ga sestavite". Prvi popis je posnetek trenutnega stanja. Vrednost je v tem, kaj se zgodi potem.

Zakaj registri zastarevajo

Glavni vzrok ni nemarnost. Gre za to, da se AI širi drugače kot druga programska opremа. Novo orodje pogosto ne zahteva postopka nabave, IT-odobritve ali proračunskega kroga. Nekdo se prijavi s službenim e-poštnim naslovom in začne uporabljati. Nihče tega ni dolžan sporočiti in nihče se ne počuti k temu zavezanega — še posebej ne, če je pričakovanje, da je sporočanje enako prepovedi. Kaj se zgodi z zaposlenimi, ki uporabljajo orodje, ki ga ni odobril nihče določa, ali te prijave sploh kdaj pridejo.

Poleg tega se spreminja tudi narava obstoječih orodij. Paket, ki lansko leto ni imel AI-funkcionalnosti, jo lahko letos ima, privzeto vklopljeno ob posodobitvi. Seznam ponudnikov pri IT-oddelku se tako ne spremeni, tveganje istih orodij pa se spremeni.

Cikel, ne posnetek stanja

Vzdrževanje aktualnosti zahteva ponavljajoč se ritem, ne enkratnega dejanja. Ta ritem sestavlja nekaj elementov, ki se ponavljajo:

Stalno vprašanje ekipam, ob stalnem trenutku, o tem, kaj se je dodalo ali spremenilo. Ne kot nadzorno vprašanje, temveč kot del ponavljajočega se sestanka — četrtletni pogovor, ekipni sestanek, cikel ocenjevanja uspešnosti. Vprašanje mora biti dovolj enostavno, da dobi pošten odgovor.

Signal iz nabave ali IT-upravljanja, ko se sklene nova naročnina ali obnovi obstoječa pogodba. Ne vsak signal privede do spremembe registra, vendar mora biti vsak signal pregledan.

Ponovna ocena obstoječih postavk v trenutku, ko se spremeni okoliščina: orodje pridobi novo funkcijo, ekipa začne AI-rešitev uporabljati za drug namen, kot je bila razvrščena. Kako pogosto je ta ponovna ocena potrebna, je odvisno od stopnje tveganja rešitve in od tega, kako hitro se okolje spreminja — o tem več na strani, ki opisuje kako pogosto morate ponovno razvrščati.

Kaj metoda ne reši

Noben način dela ne zajame vsega. Register, ki je popolnoma odvisen od samoprijavljanja, po definiciji zgreši tisto, česar ljudje ne prijavijo — zaradi nevednosti, udobja ali ker se ne zavedajo, da orodje spada v definicijo AI. Register, ki je popolnoma odvisen od IT-signalov, zgreši tisto, kar je nabavljeno zunaj IT-oddelka, kar je trenutno največji del t. i. senčnega AI-ja.

Realističen pristop kombinira oba, pri čemer se zaveda, da niti kombinacija ni popolna. Dobro vzdrževan register je pristop, ki se bolj približa dejanskemu stanju kot brez registra, ni pa zagotovilo, da je vse zajeto.

Obstaja tudi organizacijska pomanjkljivost: drugi proces, ki se postavi ob obstoječi proces, se pogosto preprosto prezre, čeprav je na papirju obvezen. Zakaj se to zgodi in kako se temu izogniti, je opisano na strani o tem, zakaj se drugi proces ob obstoječem prezre. Osnovna ugotovitev je, da posodabljanje najlažje obstane, ko je vgrajeno v obstoječe rutine, in ne, ko postane nova, ločena obveznost.

Vloga ljudi v procesu

Aktualen register je konec koncev odvisen od ljudi, ki razumejo, zakaj je prijavljanje koristno in kaj se z njihovo prijavo zgodi. To se navezuje na širše vprašanje o tem, kaj AI-pismenost pomeni za zaposlene: kdor ne ve, kaj spada v definicijo AI, tudi ne prijavi tega, kar bi moral prijaviti. In kdor se boji sankcije, sploh ne prijavi — niti tistega, kar spada v definicijo.

Sem spada tudi pogovor o poslovnih podatkih. Zaposleni, ki v brezplačno klepetalno okno vstavi podatke o strankah ali interne dokumente, pogosto ne uporablja prepovedanega orodja v strogem pomenu — to orodje morda nikjer ni navedeno kot "prepovedano". Tveganje je v uporabi, ne le v prisotnosti na seznamu. Kaj s tem storiti, je opisano na strani o tem, kaj storite s poslovnimi podatki v brezplačnem klepetalnem oknu.

Zadnji element živega registra je nadzor nad tem, kaj je že v njem. Rešitev, ki je pri razvrščanju zahtevala človeški nadzor, lahko ta nadzor v praksi izgubi, ne da bi register to odražal. Kaj nadzor v praksi pomeni in kako se razlikuje od nadzora na papirju, je na strani o tem, kaj pomeni človeški nadzor v praksi.

Od registra do razdelitve dela

Aktualen register pove, kaj deluje in s kakšnim tveganjem. Ne pove, kateri del temeljnega dela dejansko opravlja ali prevzema AI in kateri del ostaja pri ljudeh. To vprašanje je eno raven globlje: ne katera orodja obstajajo, temveč koliko konkretne naloge zmore AI. Delovni pregled FTE TO AI to izračuna po nalogah in tako ponudi slika, ki se dopolnjuje z registrom — eno pove, kaj obstaja, drugo, kaj dejansko počne.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.