re-ai-gov Na liście oczekujących

Kennisbank

Co robi Pan/Pani z danymi firmowymi w darmowym okienku czatu?

Ktoś wkleja fragment tekstu do okienka czatu, aby szybciej otrzymać podsumowanie, tłumaczenie lub tekst koncepcyjny. Okienko jest darmowe, konto jest prywatne, i nikt nie pytał o zgodę, bo nikt nie wiedział, że zgoda jest potrzebna. To najbardziej powszechna forma korzystania z AI w organizacji, a jednocześnie najmniej widoczna.

Jak to powstaje

Darmowe okienko czatu nie wymaga zgody działu IT, budżetu, ani procesu zakupowego. Wymaga tylko przeglądarki. Kto chce szybciej wykonać zadanie, otwiera okienko, wkleja tekst i otrzymuje odpowiedź. Dane, które przy tym są wprowadzane, mogą być czymkolwiek: dokumentacja klienta, tekst koncepcyjny z wrażliwymi liczbami firmowymi, e-mail z danymi osobowymi. Co dzieje się z tymi danymi po wklejeniu, użytkownik zazwyczaj nie wie. Na co organizacja się zgodziła, to nic — nie ma umowy, nie ma umowy powierzenia przetwarzania danych, nie ma ustaleń dotyczących okresów przechowywania.

To nie dzieje się z powodu nieuwagi. Dzieje się, bo okienko działa, jest szybsze niż oficjalna alternatywa, i nikt nigdy nie wyjaśnił, gdzie leży granica. Ten sam mechanizm stoi za rozszerzeniem przeglądarki z dostępem do Pana/Pani poczty: narzędziem, które jest funkcjonalnie przydatne, jest instalowane poza wszelkim nadzorem i przetwarza dane bez jakiejkolwiek weryfikacji.

Dlaczego to nie zniknie sama z siebie

Okienko czatu nie zniknie, bo powstanie dokument polityki. Nie zniknie, bo IT opublikuje listę zatwierdzonych narzędzi. Dopóki darmowe okienko działa szybciej niż alternatywa, będzie dalej używane — tylko wtedy nikt tego nie zgłosi. Zakaz bez alternatywy spycha korzystanie do podziemia; praca nie znika, znika tylko widoczność.

Ten wzorzec powtarza się w wielu miejscach organizacji. Zespół, który ma dobre doświadczenia, kupuje własny abonament bez wiedzy nikogo poza nim. Pilotaż, który zaczął się jako próba, dalej działa, bo nikt nie otrzymał zadania, aby instalację testową, której nigdy nie wyłączono ponownie zamknąć. Lista IT z zatwierdzonym oprogramowaniem w żadnym z tych przypadków nie jest wiarygodnym odwzorowaniem tego, co się naprawdę dzieje. Kto chce wiedzieć, co się dzieje, musi zapytać — nie jako kontrolę, ale jako inwentaryzację.

Co znaczy pytać, a czego to nie znaczy

Różnica między organizacją, która zdobywa wglądu, a organizacją, która go nie zdobywa, leży w sposobie zadawania pytań. Kto pyta z groźbą sankcji w tle, nie otrzymuje odpowiedzi — albo otrzymuje odpowiedź, która nie jest prawdziwa. Kto pyta bez rozliczania, z komunikatem, że chodzi o zdobycie obrazu sytuacji, a nie o karanie, otrzymuje uczciwe informacje.

Ten obraz musi gdzieś się osadzić. Nie na liście, która po miesiącu jest już przestarzała, ale w strukturze, która rejestruje, co działa, kto to używa, jakie dane tam wchodzą i jakie ryzyko temu odpowiada. Jak zbudować inwentaryzację AI opisuje, jak taka inwentaryzacja przebiega bez nagonki na winnych: jako proces ciągły, nie jako jednorazowa akcja, o której potem się zapomina.

Przy każdym rozwiązaniu, które wychodzi na światło dzienne, należy ustalić stały zestaw danych: co robi, kto to używa, jakie dane tam wchodzą i na podstawie jakiego ustalenia to się dzieje. Bez tej rejestracji okienko czatu pozostaje hazardem, a nie ocenioną decyzją. Co należy rejestrować dla każdego rozwiązania opisuje ten stały zestaw, niezależnie od tego, czy rozwiązanie to darmowe okienko, płatny abonament, czy narzędzie, które przyszło przez dostawcę. Nawiasem mówiąc, dostawca może sam być przyczyną: dostawca, który wbudował AI w swój produkt zmienia charakter istniejącej umowy, bez tego, że temu zawsze odpowiada nowa umowa.

Co organizacja może z tym zrobić

Darmowe okienko czatu nie jest z definicji problemem. To sygnał: było zadanie, które ktoś chciał wykonać szybciej, a istniejąca oferta tego nie zapewniała. Pytanie nie brzmi tylko, czy korzystanie ustanie, ale czy organizacja zaoferuje alternatywę, która będzie zgodna z ustaleniami — i czy wie, jakie dane zostały już przetworzone przez kanał, nad którym nie miała kontroli.

Te dwa pytania razem — co działa i co mogłoby to zastąpić — prowadzą niemal automatycznie do trzeciego pytania: która część pracy, która obecnie przebiega przez osobne okienko czatu, jest właściwie zadaniem, które można w oceniony sposób przekazać AI. Właśnie do tego zbudowano skan pracy FTE TO AI: oblicza on dla każdego zadania, jaka część pracy może zostać przejęta przez AI, tak aby odpowiedzią na darmowe okienko czatu nie był tylko zakaz, ale też perspektywa tego, co jest możliwe.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.