re-ai-gov Ootejärjekorda

Kennisbank

Mida teete ettevõtte andmetega tasuta vestlusaknas?

Keegi kleebib tekstitüki vestlusaknasse, et kiiremini saada kokkuvõte, tõlge või mustandtekst. Aken on tasuta, konto on personaalne, ja keegi ei ole selleks luba küsinud, sest keegi ei teadnud, et luba on vajalik. See on kõige levinum AI-kasutuse vorm organisatsioonis ja samal ajal kõige vähem nähtav.

Kuidas see tekib

Tasuta vestlusaken ei küsi IT-osakonna heakskiitu, ei eelarvet, ei hankeprotsessi. See küsib ainult brauserit. Kes soovib ülesande kiiremini teha, avab akna, kleebib teksti sinna ja saab vastuse. Andmed, mis seejuures sisestatakse, võivad olla mis tahes: kliendidosjee, mustandtekst tundlike ettevõtte numbritega, e-kiri isikuandmetega. Mis nende andmetega pärast kleepimist juhtub, ei tea kasutaja enamasti. Mida organisatsioon on sellega nõustunud, on mitte midagi — puudub leping, puudub andmetöötluslepingu kokkulepe, puudub säilitustähtaegade kokkulepe.

See ei toimu hooletusest. See toimub, kuna aken töötab, on kiirem kui ametlik alternatiiv, ja keegi ei ole kunagi selgitanud, kus piir asub. Sama liikumine on brauserilaienduse taga, millel on juurdepääs teie e-postile: tööriist, mis on funktsionaalselt kasulik, mis paigaldatakse ilma nähtavuseta ning mis töötleb andmeid, ilma et keegi oleks seda kontrollinud.

Miks see ei kao iseenesest

Vestlusaken ei kao seetõttu, et koostatakse poliitikadokument. See ei kao seetõttu, et IT avaldab nimekirja heakskiidetud tööriistadest. Kuni tasuta aken töötab kiiremini kui alternatiiv, jätkub selle kasutamine — ainult sel juhul ilma, et keegi seda teatab. Keeld ilma alternatiivita viib kasutuse maa-alla; töö ei kao, ainult nähtavus.

See muster kordub organisatsioonis mitmes kohas. Meeskond, kellel on head kogemused, hangib oma tellimuse, ilma et keegi väljaspool sellest teaks. Pilootprojekt, mis algas katsena, jääb töötama, sest keegi ei saanud ülesandeks seadistust, mida ei ole kunagi välja lülitatud, taas sulgeda. IT-osakonna nimekiri heakskiidetud tarkvarast ei ole ühelgi nendest juhtudest usaldusväärne kajastus sellest, mis tegelikult toimub. Kes soovib teada, mis toimub, peab küsima — mitte kontrollina, vaid inventuurina.

Mida küsimine tähendab ja mida see ei tähenda

Erinevus organisatsiooni vahel, mis saab ülevaate, ja organisatsiooni vahel, mis ei saa, on küsimise viisis. Kes küsib sanktsioonide ohuga taustal, ei saa vastust — või saab vastuse, mis ei vasta tõele. Kes küsib ilma karistuseta, sõnumiga, et eesmärk on saada ülevaade, mitte karistada, saab ausat teavet.

See ülevaade peab kuhugi jõudma. Mitte nimekirja, mis on kuu pärast vananenud, vaid struktuuri, mis dokumenteerib, mis töötab, kes seda kasutab, mis andmed sinna lähevad ja mis risk sellega kaasneb. Kuidas te ehitate AI-inventuuri kirjeldab, kuidas see inventuur toimub ilma nõidade jahtimiseta: pideva protsessina, mitte ühekordse tegevusena, mis pärast unustatakse.

Igale rakendusele, mis tuleb esile, kuulub kindel andmestik: mida see teeb, kes seda kasutab, mis andmed sinna lähevad ja mille alusel see toimub. Selle dokumenteerimiseta jääb vestlusaken hasartmänguks, mitte hinnatud valikuks. Mida te peate rakenduse kohta dokumenteerima kirjeldab seda kindlat andmestikku, olenemata sellest, kas rakendus on tasuta aken, tasuline tellimus või tarnija kaudu saabunud tööriist. Ka tarnija võib muide olla ise ajendiks: tarnija, kes ehitas AI oma tootesse, muudab olemasoleva lepingu iseloomu, ilma et sellele alati vastaks uus kokkulepe.

Mida organisatsioon selle kohta ette võtta saab

Tasuta vestlusaken ei ole per definitsioon probleem. See on signaal: on ülesanne, mida keegi soovis kiiremini teha, ja olemasolev pakkumine ei näinud selleks ette. Küsimus ei ole ainult see, kas kasutamine peatub, vaid ka see, kas organisatsioon pakub alternatiivi, mis mahub kokkulepete raamesse — ja kas ta teab, mis andmeid on vahepeal töödeldud kanali kaudu, mille üle tal kontrolli ei olnud.

Need kaks küsimust koos — mis töötab ja mis võiks selle asemel tulla — viivad peaaegu iseenesest kolmanda küsimuse juurde: mis osa tööst, mis praegu toimub üksiku vestlusakna kaudu, on tegelikult ülesanne, mida saab hinnatud viisil AI-le üle anda. Just selleks on loodud FTE TO AI töövoo skaneering: see arvutab iga ülesande kohta välja, kui suur osa tööst on AI-le üle antav, nii et vastus tasuta vestlusaknale ei oleks ainult keeld, vaid ka väljavaade sellele, mis on võimalik.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.