Pytanie, jakie zastosowania wykraczają poza zakres, brzmi jak prośba o listę. Nie jest nią. Czy coś wchodzi w zakres, czy nie, to klasyfikacja, która zależy od tego, co dana aplikacja robi, w jakim kontekście i dla kogo. Ta sama technologia może w jednym zastosowaniu pozostać poza uwagą, a w innym trafić w centrum zainteresowania. Stała lista wykluczonych zastosowań zatem nie istnieje — istnieje jednak kilka czynników, które determinują tę klasyfikację.
Pierwszym czynnikiem jest funkcja zastosowania: co system decyduje lub co doradza i dla kogo ma to konsekwencje. Narzędzie, które przepisuje wewnętrzny tekst, to inna sytuacja niż narzędzie, które współdecyduje o wniosku, aplikacji o pracę czy roszczeniu. Drugim czynnikiem jest poziom ryzyka związany z tą funkcją: im większe konsekwencje dla ludzi, tym prędzej zastosowanie przesuwa się w kierunku bardziej wymagającej części spektrum. Trzecim czynnikiem jest rola samej organizacji: kto jedynie korzysta z systemu, jest oceniany inaczej niż kto go dostosowuje, dotrenowuje lub składa z elementów pochodzących od innych. To, co ten podział ról oznacza w praktyce i kiedy się przesuwa, opisano na stronach dotyczących rozróżnienia między dostawcą a użytkownikiem systemu AI oraz momentu, w którym rola użytkownika przechodzi w inny rodzaj odpowiedzialności.
Czwarty czynnik ma charakter techniczny, ale jest istotny prawnie: to, co organizacja sama zmienia w istniejącym modelu, czasem zmienia jej pozycję w całym układzie. Model zakupiony bez zmian wpisuje się w obraz inaczej niż model dostrojony (finetuned) na własnych danych lub wbudowany we własny proces. Ta granica — kiedy dostosowanie prowadzi do zmiany roli — jest omówiona na stronie o tym, co się zmienia, gdy organizacja sama dostosowuje model.
Ponieważ klasyfikacja zależy od tych czynników, zakres nie jest stałą cechą narzędzia, lecz wynikiem, który może się zmieniać. Chatbot, który zaczynał jako wewnętrzna pomoc w pisaniu, może — gdy zacznie odpowiadać także na pytania klientów prowadzące do decyzji — trafić do innej części spektrum. Model zakupiony jako gotowy produkt może, po dostosowaniu do własnych danych, nieść ze sobą inną rolę dla organizacji. Zastosowanie, które dziś uznaje się za low-impact, może jutro znaczyć więcej, ponieważ zmienił się kontekst jego użycia — inny zespół, inna decyzja, inna grupa ludzi, których dotyczy wynik.
Właśnie dlatego jednorazowa klasyfikacja nie jest wystarczająca. Klasyfikacja ustalona w momencie wdrożenia nie mówi niczego o tym, co narzędzie robi rok później. To, co dziś powinno wejść w zakres, a co można zaplanować na później, jest więc samo w sobie pytaniem zależnym od aktualnej sytuacji — rozwiniętym na stronie o kolejności między tym, co wymaga uwagi teraz, a tym, co może nastąpić później.
Klasyfikację na to, co wchodzi w zakres, a co nie, komplikuje praktyczny problem: oficjalna lista zakupionych lub zatwierdzonych narzędzi nie jest tą samą listą co narzędzia faktycznie używane. Zespoły zaczynają korzystać z funkcji AI bez przechodzenia przez proces zatwierdzania — nie z niechęci, ale ponieważ jest to łatwo dostępne i rozwiązuje problem. Ta cieniowa AI (shadow AI) jest właśnie tą częścią, która uniemożliwia klasyfikację w zakresie lub poza zakresem, dopóki nikt nie wie, że dane zastosowanie istnieje.
Kto chce uzupełnić ten obraz, musi o to zapytać — i to tak, by pytanie nie było odczytane jako zawoalowany zarzut. W chwili, gdy pracownik przypuszcza, że szczera odpowiedź prowadzi do sankcji, odpowiedź nie pada, a narzędzie pozostaje poza radarem. Inwentaryzacja zbudowana na rozliczaniu z definicji daje więc niekompletny obraz — a niekompletny obraz sprawia, że każda klasyfikacja w zakresie jest tymczasowa.
Ponieważ zakres może się zmieniać, utrwalenie klasyfikacji jest przynajmniej tak ważne, jak klasyfikacja sama. Kto zdecydował, że dane zastosowanie wykracza poza zakres, na podstawie jakich informacji i w którym momencie — takie pytania stają się niemożliwe do odpowiedzenia, gdy brakuje dokumentacji. Jak organizacja może uczynić ten rodzaj decyzji możliwym do skonfigurowania i możliwym do odtworzenia, opisano na stronie o rejestrze decyzji, który umożliwia śledzenie decyzji nadzorczych, a o tym, jak ta klasyfikacja rozpoznawalnie powraca w dokumencie, do którego pracownicy faktycznie zaglądają, na stronie o polityce AI, która jest dopasowana do tego, co ludzie naprawdę robią.
Kwestia klasyfikacji — co wchodzi w zakres, a co nie — dotyczy ryzyka i odpowiedzialności, nie tego, co dane zastosowanie oznacza dla samej pracy. To drugie pytanie, ile z zadania można faktycznie powierzyć AI, to odrębna kalkulacja. Skan pracy FTE TO AI wylicza dla każdego zadania, jaką część pracy można przejąć, niezależnie od tego, jak dane zastosowanie trafia do klasyfikacji w ramach governance.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.