re-ai-gov Uz gaidīšanas sarakstu

Kennisbank

Paplašinājums, ko neviens nav apstiprinājis, bet kas tomēr lasa līdzi

Darbinieks instalē pārlūkprogrammas paplašinājumu, kas apkopo e-pastus, iesaka kalendāra tikšanās vai raksta koncepttekstu Gmail vai Outlook Web vidē. Instalēšana aizņem minūti un pieprasa atļauju piekļūt lapas saturam. Šī atļauja tiek dota, bez tam, ka kāds izlasa, kas precīzi tiek kopīgots, cik ilgi tas tiek glabāts, vai modelis uz tā tiek trenēts, vai piegādātājs to pārdod tālāk. Paplašinājums darbojas, ietaupa laiku, un tad izplatās neformāli: kolēģis to redz, prasa saiti, arī instalē to.

Kā tas rodas

Pārlūkprogrammas paplašinājumi paliek ārpus lielākās daļas iepirkuma procesu. Nekas netiek iegādāts, nav līguma, nav rēķina, kas piesaistītu finanšu nodaļas uzmanību. Instalēšana notiek pašā pārlūkprogrammā, bieži ar personisku vai darba kontu, kas neiet caur IT. Darbiniekam tas nav 'jauns rīks' tādā nozīmē, kas prasītu apstiprinājumu — tas ir mazs palīglīdzeklis, salīdzināms ar pareizrakstības pārbaudi. Tas, ka paplašinājumam ir lasīšanas piekļuve visai e-pasta pastkastei, ieskaitot pielikumus, līgumus un klientu datus, ir tehniska detaļa, kas instalēšanas laikā tika aizklikšķināta.

Šis modelis nav unikāls e-pastam. Tāds pats ceļš iet caur rīku, ko neviens nav apstiprinājis plašākā nozīmē, caur uzņēmuma datiem, kas ielīmēti bezmaksas tērzēšanas logā, un caur nodaļu, kas pēc savas iniciatīvas noslēgusi abonementu. Pārlūkprogrammas paplašinājums ir tikai variants ar visdirektāko piekļuvi: ne tikai vienam dokumentam, bet visai pastkastei.

Kāpēc tas nepazūd pats no sevis

IT apstiprinātās programmatūras sarakstā tas neparādās. Paplašinājums nav līgumu pārskatā, nav rēķinu plūsmā, nav SSO žurnālā, ja tas netiek izmantots. Vienīgais veids, kā zināt, ka tas ir tur, ir jautāt — cilvēkiem, kas to izmanto. Un tas darbojas tikai tad, ja jautāšanai nav seku. Tiklīdz ziņošana izraisa pārmetumu, informācija apstājas. Nākamais paplašinājums tad netiek pieteikts, bet izmantots klusāk.

Paplašinājums arī nepazūd tāpēc, ka tas ir noderīgs. Kas var ātrāk apstrādāt e-pastu, no tā neatsakās tāpēc, ka kaut kur ir politikas dokuments, kas to neiesaka. Aizliegums bez alternatīvas pārvieto rīcību uz citu kontu, citu pārlūkprogrammu, privātu telefonu. Problēma tad kļūst mazāk redzama, nevis mazāka.

Ko organizācija ar to var darīt

Sākumpunkts nav atklāt un sodīt, bet apzināt, kas ir, un uz tā pamata izdarīt izvēli. Tas sākas ar inventarizāciju, kas raugās nevis tikai uz to, kas ir iegādāts, bet uz to, kas tiek izmantots: kā izveidot AI inventarizāciju aprakstīts šajā pieejā, ieskaitot jautājumu, kā panākt, lai cilvēki paši ziņotu, ko viņi izmanto.

Katram paplašinājumam, kas nāk gaismā, ir svarīgi vairāki jautājumi. Kādus datus tas skar — tikai tos, kas ir ekrānā, vai visu pastkasti caur API savienojumu? Vai satura apstrādi veic ārējs modelis, un, ja tā, ar kādiem nosacījumiem? Vai izmantošanai ir darījumu iemesls, vai tas aizvieto kaut ko, kas organizācijai jau bija? Kas jāfiksē par katru pielietojumu — kurš ir tā turētājs, kādi dati tajā iet, kāds riska līmenis tam piemērojams — ir aprakstīts kas jums jāfiksē par katru pielietojumu. Tas nav juridisks vingrinājums pats par sevi; tas ir pamats, lai katrā gadījumā lemtu: atļaut, aizvietot ar pārvaldītu variantu, vai izbeigt.

Pie tā pieder arī skats uz āru. Ne katra AI funkcija e-pasta vidē nāk no paplašinājuma, ko darbinieks pats instalējis. Esoša rīka piegādātājs var būt pievienojis AI funkciju atjauninājumā, bez tam, ka tas tika uzskatīts par jaunu vērtējumu. Ko tas nozīmē esošajiem līgumiem un datu apstrādes vienošanām, ir aprakstīts pie piegādātāja, kas savā produktā ir iebūvējis AI.

Bez raganu medībām

Šīs inventarizācijas mērķis nav atrast darbinieku, kas instalēja paplašinājumu. Kas uz to nonāk, nākamo paplašinājumu vairs neredz, jo neviens vairs nepaziņo. Mērķis ir priekšstats par to, kas faktiski notiek ar e-pasta datiem, līguma dokumentiem un klientu saziņu, lai vadītājs vai General Counsel var pieņemt pamatotu lēmumu par to, kas paliek, kas tiek aizvietots un kas tiek izbeigts — ar iemeslu, ko var uzrādīt uzraudzības iestādei vai revidentam.

No riska uz ieskatu laika izmantošanā

Tas pats jautājums, kas atklāj, ka paplašinājums lasa līdzi e-pastam, atklāj arī, cik daudz laika šis paplašinājums faktiski pārņem no darba, kas iepriekš notika ar rokām. Šie divi jautājumi ir cieši saistīti: viens ir par risku un uzraudzību, otrs — par to, kur laika izmantošana pašā darbā mainās. Attiecībā uz otro, FTE TO AI darba skenēšana katram uzdevumam aprēķina, kādu daļu darba var pārņemt AI, neatkarīgi no tā, kurš rīks to dara — nākamais solis tiem, kas pēc inventarizācijas grib zināt, ko AI, kas jau ir tur, nozīmē organizācijas darba struktūrai.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.