Kennisbank

Co wykracza poza zakres i kiedy to już nie jest tak

Pytanie, na które każdy odpowiada za szybko

W wielu organizacjach istnieje ustalona lista zastosowań, które miałyby wykraczać „poza zakres”. Podsuwanie tekstu w edytorze tekstu, filtr antyspamowy, chatbot odpowiadający wyłącznie na podstawie ustalonego FAQ. Zakłada się, że te zastosowania są zbyt małe, zbyt stare lub zbyt niewinne, aby podlegały governance. To założenie czasem się sprawdza. Nie sprawdza się zawsze, a rzadko sprawdza się trwale.

Czy coś wykracza poza zakres, nie jest właściwością technologii. Jest to klasyfikacja wynikająca z tego, co system robi, dla kogo i z jakim skutkiem, jeśli coś pójdzie nie tak. Ta sama podsuwana propozycja tekstu, która dziś wykracza poza zakres, ponieważ podsuwa pracownikowi jedynie słowo, może jutro znaleźć się w zakresie, gdy zacznie automatycznie kończyć i wysyłać e-maile bez ingerencji człowieka.

Od czego zależy ta klasyfikacja

Trzy czynniki wspólnie determinują, czy zastosowanie znajduje się w zakresie, czy poza nim.

Pierwszym jest funkcja: czy system podejmuje decyzję, czy tylko dostarcza informację, którą ocenia człowiek? Narzędzie, które klasyfikuje kandydatów, znajduje się bliżej zakresu niż narzędzie, które tylko umożliwia przeszukiwanie CV. W którym miejscu tego spektrum dokładnie znajduje się dane zastosowanie i dlaczego, przeczyta Pan/Pani w analizie tego, co oznacza wysoki poziom ryzyka dla Pana/Pani organizacji.

Drugim jest rola samej organizacji. Kto kupuje system i używa go bez zmian, znajduje się w innej sytuacji niż kto sam go buduje, trenuje lub dostosowuje. To samo zastosowanie może dla jednej organizacji wykraczać poza zakres, a dla innej nie, wyłącznie na podstawie tego, kto ponosi jaką odpowiedzialność. Ten podział jest szczegółowo opisany w pytaniu, czy Pan/Pani jest dostawcą czy użytkownikiem, i zmienia się, gdy ktoś w organizacji dostosowuje lub ponownie trenuje model, jak opisano w tym, co się zmienia, gdy sam Pan/Pani dostosowuje model.

Trzecim czynnikiem jest czas. System, który teraz wykracza poza zakres, może rok później już nie być poza zakresem, nie dlatego, że zmieniły się przepisy, lecz dlatego, że zmieniło się użycie. Chatbot, który zaczynał jako źródło informacji, może rozwinąć się w system obsługujący reklamacje. Rola zespołu lub działu wobec takiego systemu przesuwa się wtedy wraz z nim, a kiedy to się dzieje, opisano w tym, kiedy zmienia się Pana/Pani rola i od czego to zależy.

Co to oznacza w praktyce

Skutkiem tych trzech czynników jest to, że „poza zakresem” nigdy nie jest statusem trwałym. Jest to zdjęcie chwili, które trzeba ponownie ocenić, gdy zmienia się funkcja systemu, gdy organizacja przyjmuje inną rolę wobec tego systemu, lub gdy użycie rozszerza się na coś, czego nie przewidziano przy zakupie.

Właśnie tutaj shadow AI zakłóca klasyfikację. Zastosowanie odnotowane na liście IT jako „poza zakresem” może w praktyce być używane w sposób, który już do tego nie pasuje. Zespół, który wykorzystuje model językowy do tworzenia szkiców komunikacji z klientami, może go też używać do wysyłania ostatecznych odpowiedzi bez zgłaszania tego. Klasyfikacja na papierze i użycie w praktyce zaczynają się wtedy rozjeżdżać, a nikt, kto patrzy tylko na zakupione licencje, nie widzi tej różnicy.

Jedynym sposobem, aby to zauważyć, jest zapytać. Nie systemu, lecz ludzi, którzy go używają. To działa tylko wtedy, gdy zadawanie pytań nie jest równoznaczne z rozliczaniem: kto boi się konsekwencji, dostosuje swoją odpowiedź albo jej nie udzieli. Klasyfikacja oparta wyłącznie na zakupionych licencjach systematycznie przeoczy więc zastosowania, które powstały z praktycznego użycia, a to często właśnie te zastosowania, o których nikt już nie wie, czy wciąż wykraczają poza zakres, czy już dawno znajdują się głęboko w jego obrębie.

Zakres to wynik, nie punkt wyjścia

Pytania „czy to wykracza poza zakres” nie można więc rozpatrywać w oderwaniu od pytania, co dokładnie się dzieje, kto o tym decyduje i od jak dawna taka sytuacja trwa. Inwentaryzacja, która rejestruje te trzy czynniki dla każdego zastosowania, daje klasyfikację odpowiadającą rzeczywistej sytuacji, a nie założeniu, z którym system był kiedyś zakupiony. To, co wymaga uwagi już teraz, a co można spokojnie zaplanować, zależy od tych samych czynników i jest omówione w rozróżnieniu między tym, co musi się stać teraz, a co można zaplanować.

Od klasyfikacji do wglądu w samą pracę

Gdy już wiadomo, które zastosowania znajdują się w zakresie i jaką rolę odgrywa w tym Pana/Pani organizacja, powstaje pytanie następcze, które nie dotyczy governance, lecz samej pracy: jaka część zadania jest właściwie przejmowana przez takie zastosowanie, a jaka część pozostaje pracą ludzką? Na to pytanie skan governance nie odpowiada. Do tego służy skan pracy FTE TO AI, który dla każdego zadania oblicza, jaką część pracy można przejąć przez AI, dając w ten sposób obraz zaangażowania kryjącego się za klasyfikacją.