Kennisbank

Klasyfikacja nie jest jednorazowym działaniem

Klasyfikacja zastosowania AI opisuje sytuację w określonym momencie: jaki model, jakie zastosowanie, jacy użytkownicy, jakie ryzyko. Sytuacja ta się zmienia. Dostawca modyfikuje model, zespół używa narzędzia do czegoś innego niż to, do czego zostało zakupione, dostawca dodaje funkcję bez pytania kogokolwiek o zgodę. Klasyfikacja, którą sporządzili Państwo w zeszłym roku, nie opisuje więc automatycznie dzisiejszej sytuacji.

Pytanie „jak często” nie ma jednego, uniwersalnego odpowiedzi obowiązującej dla każdej organizacji. Zależy to od liczby zastosowań AI, tempa ich zmian, zróżnicowania zespołów, które z nich korzystają, oraz od stopnia nadzoru w sektorze, w którym Państwo działają. Stały, roczny moment jest punktem wyjścia, a nie gwarancją, że niczego między nimi nie przegapią Państwo.

Czego nie rozwiązuje stały interwał

Roczna lub półroczna ponowna ocena działa dobrze w przypadku zastosowań, które już Państwo znają i które zostały wprowadzone poprzez formalny proces. W przypadku zastosowań, których nikt nie zgłosił, stały interwał nie działa, po prostu ponieważ nie ma nic, co można by ponownie ocenić w ustalonej dacie. Co robić z pracownikami, którzy korzystają z narzędzia, którego nikt nie zatwierdził opisuje, dlaczego to pytanie nie rozwiązuje się poprzez powtarzające się spotkanie w kalendarzu, ale poprzez inny sposób zadawania pytań organizacji.

Oprócz tego ryzyko zmienia się nie tylko przez to, co zastosowanie robi, ale też przez to, czym jest zasilane. Okno czatu, które dzisiaj jest używane do streszczania publicznego tekstu, jutro może być używane do streszczania umowy. Co robić z danymi firmowymi w darmowym okienku czatu pokazuje, że poziom ryzyka tego samego narzędzia może się przesunąć, nawet gdy samo narzędzie nie ulega zmianie.

Sygnały, które wymagają ponownej oceny, niezależnie od daty

Oprócz ustalonego momentu istnieją zdarzenia, które wymagają śródokresowej ponownej oceny. Zmiana funkcji zastosowania, rozszerzenie grupy użytkowników, incydent lub sytuacja bliska incydentowi, zmiana warunków dostawcy, lub sygnał od pracownika, że coś jest używane inaczej niż zamierzono. Sygnały te nie mają jednakowej wagi i nie każda organizacja zauważy je równie szybko.

Pytanie, kto reaguje na te sygnały i kto ma własność nad samą ponowną oceną, jest odrębnym pytaniem. Kto jest odpowiedzialny, gdy zastosowanie AI popełnia błąd opisuje, że odpowiedzialność często zostaje ustalona tylko w momencie, gdy coś idzie źle, podczas gdy to pytanie właściwie powinno zostać odpowiedziane już przy pierwszej klasyfikacji.

Dlaczego drugi proces często znika szybciej niż proces, który już istniał

Rytm ponownej oceny ustawiony obok istniejących procesów zarządzania ryzykiem, bez integracji z nimi, zwykle traci priorytet w ciągu roku. Jest to dodatkowy krok, o który nikt nie prosi, aż coś pójdzie źle, i właśnie z tego powodu pozostaje zaniedbany. Dlaczego drugi proces obok istniejącego zostaje zignorowany wyjaśnia, dlaczego ponowna ocena działa efektywniej, gdy jest wbudowana w istniejące zarządzanie ryzykiem, a nie funkcjonuje jako odrębny proces konkurujący o uwagę z resztą organizacji.

Czego metoda nie może zrobić

Metoda klasyfikacji może zapewnić strukturę do konsekwentnej oceny zastosowań AI pod względem roli i poziomu ryzyka, i tę strukturę można stosować w sposób powtarzalny. Czego metoda nie może zrobić, to zagwarantować, że Państwo widzą wszystko. Klasyfikacja jest tak dobra, jak informacje, na których się opiera, a te informacje częściowo pochodzą od ludzi, którzy mogą mieć powód, by czegoś nie zgłaszać. Pracownik, który korzysta z niezatwierdzonego narzędzia, nie zgłosi tego sam z siebie, jeśli oczekuje, że nastąpi sankcja.

Metoda nie może też przewidzieć, kiedy dostawca zmieni model, ani kiedy zastosowanie o niskim ryzyku dzisiaj zostanie jutro wykorzystane inaczej. Ponowna ocena pozostaje więc kwestią powtarzania i organizowania otwartości, a nie systemu, który ustawia się jednorazowo i który później samodzielnie pozostaje aktualny. Jak prowadzić ten rejestr, aby po kilku miesiącach nie był ponownie nieaktualny, opisano w jak utrzymać rejestr AI aktualnym, gdzie centralnym punktem jest rozróżnienie między jednorazową inwentaryzacją a procesem ciągłym.

Do tego należy również pytanie, co nadzór nad AI oznacza w praktyce między momentami ponownej oceny: kto śledzi sytuację, z jaką częstotliwością i na podstawie jakich sygnałów. Co oznacza nadzór ludzki w praktyce pokazuje różnicę między nadzorem jako formalnym odhaczeniem a nadzorem jako czymś, co stale towarzyszy użytkowaniu.

Następne pytanie, gdy klasyfikacja jest już gotowa

Klasyfikacja mówi Państwu, jakie zastosowania istnieją, jaką rolę mają i jaki poziom ryzyka do nich przypisano. Klasyfikacja nie mówi Państwu, jaka część pracy jest faktycznie wykonywana przez AI i ile przestrzeni pozostaje jeszcze na zadanie. Kto chce odpowiedzieć na to pytanie, nie może ograniczyć się do inwentaryzacji ryzyka; wymaga to spojrzenia na samą pracę, zadanie po zadaniu. Skan pracy FTE TO AI wylicza dla każdego zadania, jaka jego część może zostać przejęta przez AI, jako uzupełnienie obrazu, który daje klasyfikacja.