re-ai-gov Na čakaciu listinu

Kennisbank

Extenzia, ktorú nikto neschválil, ale ktorá napriek tomu spoluodčítáva

Zamestnanec si nainštaluje prehliadačovú extenziu, ktorá zhŕňa e-maily, navrhuje termíny v kalendári alebo píše koncept textu v Gmaile či Outlook Web. Instalácia trvá minútu a vyžaduje súhlas s prístupom k obsahu stránky. Tento súhlas sa udelí bez toho, aby si niekto prečítal, čo presne sa zdieľa, ako dlho sa to uchováva, či na tom model trénuje, alebo či to poskytovateľ ďalej predáva. Extenzia funguje, šetrí čas a následne sa šíri neformálne: kolega ju uvidí, vyžiada si odkaz, tiež si ju nainštaluje.

Ako to vzniká

Prehliadačové extenzie sa vymykajú väčšine nákupných procesov. Nič sa nenakupuje, neexistuje zmluva, žiadna faktúra, ktorá by upútala pozornosť financií. Instalácia prebieha priamo cez prehliadač, často s osobným alebo pracovným účtom, ktorý nejde cez IT oddelenie. Pre zamestnanca to nie je 'nový nástroj' v zmysle, ktorý by vyžadoval schválenie — je to malá pomôcka, podobná kontrole pravopisu. Skutočnosť, že extenzia má prístup na čítanie k celej pošte, vrátane príloh, zmlúv a údajov o klientoch, je technický detail, ktorý sa pri instalácii odkliknul.

Tento vzorec nie je jedinečný pre mail. Rovnaká cesta vedie cez nástroj, ktorý nikto neschválil v širšom zmysle, cez firemné dáta, ktoré sa vložia do bezplatného chatového okna, a cez oddelenie, ktoré si na vlastnú iniciatívu zriadilo predplatné. Prehliadačová extenzia je len variantom s najpriamejším prístupom: nie k jednému dokumentu, ale k celej mailovej schránke.

Prečo to nezmizne samo od seba

IT zoznam schváleného softvéru toto nezachytí. Extenzia nie je v prehľade zmlúv, nie je vo faktúrovom toku, nie je v SSO logu, ak sa nepoužíva. Jediný spôsob, ako zistiť, či existuje, je spýtať sa — ľudí, ktorí ju používajú. A to funguje len tak, že opýtanie sa nemá následky. Hneď ako nahlásenie vedie k výčitke, informácie prestanú prúdiť. Ďalšia extenzia sa potom nenahlási, ale používa sa tichšie.

Extenzia nezmizne ani preto, že je užitočná. Kto vie mail spracovať rýchlejšie, to nevzdá len preto, že niekde existuje dokument politiky, ktorý to neodporúča. Zákaz bez alternatívy presunie správanie na iný účet, iný prehliadač, súkromný telefón. Problém sa tak stane menej viditeľným, nie menším.

Čo s tým môže organizácia urobiť

Východiskovým bodom nie je pátranie a trestanie, ale zmapovanie toho, čo existuje, a na základe toho urobenie rozhodnutia. Začína to inventúrou, ktorá sa nepozerá len na to, čo bolo nakúpené, ale na to, čo sa skutočne používa: ako vybudovať AI inventúru popisuje tento prístup, vrátane otázky, ako dosiahnuť, aby ľudia sami nahlasovali, čo používajú.

Pre každú extenziu, ktorá vyjde na povrch, je relevantných niekoľko otázok. Akých údajov sa dotýka — len toho, čo je na obrazovke, alebo celej mailovej schránky cez API prepojenie? Je obsah spracovávaný externým modelom, a ak áno, za akých podmienok? Existuje obchodný dôvod na jej používanie, alebo nahrádza niečo, čo organizácia už mala? To, čo je potrebné zaznamenať pre každú aplikáciu — kto je vlastníkom, aké údaje do nej vstupujú, aká úroveň rizika platí — je popísané v čo musíte zaznamenať pre každú aplikáciu. Nejde o právne cvičenie samo o sebe; je to základ pre rozhodovanie prípad od prípadu: povoliť, nahradiť riadenou variantou, alebo postupne odstaviť.

K tomu patrí aj pohľad zvonku. Nie každá AI funkcia v mailovom prostredí pochádza z extenzie, ktorú si zamestnanec sám nainštaloval. Poskytovateľ existujúceho nástroja môže do aktualizácie pridať AI funkciu bez toho, aby sa to považovalo za nové posúdenie. Čo to znamená pre existujúce zmluvy a dohody o spracovaní údajov, je popísané v poskytovateľ, ktorý do svojho produktu vložil AI.

Bez honu na čarodejnice

Cieľom tejto inventúry nie je vypátrať zamestnanca, ktorý extenziu nainštaloval. Kto sa na to zameria, už nebude vidieť ďalšiu extenziu, pretože nikto viac nič nenahlási. Cieľom je obraz toho, čo sa fakticky deje s mailovými údajmi, zmluvnou dokumentáciou a komunikáciou s klientmi, aby manažér alebo generálny právny zástupca (General Counsel) mohol urobiť podložené rozhodnutie o tom, čo zostane, čo sa nahradí a čo sa postupne odstaví — s dôvodom, ktorý sa dá predložiť dozornému orgánu alebo audítorovi.

Od rizika k prehľadu o využití času

Rovnaká otázka, ktorá odhalí, že extenzia spoluodčítáva mail, odhalí aj to, koľko času táto extenzia fakticky prevezme z práce, ktorá sa predtým robila ručne. Tieto dve otázky ležia blízko seba: jedna sa týka rizika a dohľadu, druhá toho, kde sa v samotnej práci mení využitie času. Pre to druhé workscan od FTE TO AI vypočíta pre každú úlohu, aká časť práce sa dá prebrať AI, nezávisle od toho, ktorý nástroj to robí — ďalší krok pre toho, kto po inventúre chce vedieť, čo AI, ktorá už existuje, znamená pre organizáciu práce.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.