Nadzór ludzki jest często zapisywany jako rola: osoba, która jest odpowiedzialna, nazwisko w rejestrze, zaznaczone pole. To jest punkt wyjścia, nie sam mechanizm. Nadzór powstaje tylko wtedy, gdy istnieje moment, w którym człowiek może zobaczyć wynik zastosowania AI, może go zrozumieć i może go skorygować, zanim ten wynik trafi dalej. Bez tego momentu nazwisko pod klasyfikacją jest formalnością.
Czy nadzór działa w praktyce, zależy od kilku rzeczy, które nie łączą się samoczynnie. Musi istnieć osoba, która ma uprawnienie do zatrzymania wyniku, a nie tylko zadanie polegające na przyglądaniu się mu. Musi być czas, aby się przyjrzeć, co oznacza, że proces nie jest tak zaprojektowany, że wynik AI jest już przetworzony, zanim kontrola się odbędzie. I musi być wystarczające zrozumienie tego, co dane zastosowanie robi, aby rozpoznać odchylenie. Kontroler, który nie jest w stanie ocenić wyniku, nie sprawuje nadzoru, nawet jeśli rola została formalnie przypisana.
Wiąże się to z tym, co oznacza kompetencja w zakresie AI dla pracowników: nadzór bez zrozumienia danego zastosowania jest nadzorem tylko na papierze.
Struktura governance może określić, kto za co odpowiada, jaki poziom ryzyka ma dane zastosowanie i jakie kroki są z tym związane. Czego ta struktura nie robi, to zagwarantowanie, że dana osoba faktycznie oceni wynik w momencie, gdy to się liczy. To jest kwestia organizacyjna, nie techniczna. Klasyfikacja może być prawidłowa, a nadzór może mimo to być pusty, ponieważ osoba formalnie odpowiedzialna na papierze nie ma czasu, dostępu ani wiedzy, aby zweryfikować wynik.
Inwentaryzacja i klasyfikacja pokazują, gdzie to ryzyko jest największe: przy zastosowaniach o wyższym poziomie ryzyka lub przy zastosowaniach, które weszły do organizacji poza standardowym procesem IT. Ta ostatnia grupa jest zwykle najtrudniejsza, ponieważ kto chce zorganizować nadzór nad czymś, co nie znajduje się w rejestrze, musi to najpierw znaleźć. Dotyczy to kwestii co robić z pracownikami, którzy używają narzędzia, którego nikt nie zatwierdził: nadzór nad shadow AI zaczyna się od uznania, że dane zastosowanie istnieje, a nie od sankcji za jego użycie.
Zastosowanie, które dziś jest objęte nadzorem, może już jutro się zmienić. Model zostaje zaktualizowany, dane wejściowe się zmieniają, albo użycie w organizacji rozrasta się z prostego zadania do czegoś o większym znaczeniu. Nadzór zorganizowany pod sytuację z roku temu nie odpowiada już temu, co dzieje się teraz. To jeden z powodów, dla których klasyfikacja nie jest jednorazowym działaniem; jak często musi się to powtarzać, zależy od poziomu ryzyka i stopnia, w jakim zastosowanie się zmienia, co zostało opisane w jak często należy przeprowadzać ponowną klasyfikację.
Oznacza to również, że rejestr ma wartość tylko wtedy, gdy jest na bieżąco aktualizowany. Inwentaryzacja przygotowana podczas pierwszego skanu, a następnie nieaktualizowana, daje coraz mniej dokładny obraz tego, gdzie nadzór jest potrzebny. Pytanie, jak organizacja utrzymuje ten rejestr aktualny, jest odrębne od pytania, jak rejestr został zbudowany, i zasługuje na własną uwagę: zob. jak utrzymać rejestr AI aktualny.
Zarząd, który jest proszony o wykazanie, że istnieje nadzór nad użyciem AI, nie może ograniczyć się do listy ról. Wykazywalność wymaga śladu: kto obejrzał jaki wynik, w jakim momencie, z jakim uprawnieniem do skorygowania. Ten ślad jest również istotny w momencie, gdy coś idzie nie tak. Pytanie, kto jest odpowiedzialny, gdy zastosowanie AI popełni błąd, nie jest odpowiedziane samą klasyfikacją, lecz wykazywalnym nadzorem, który po niej nastąpił. Te dwie kwestie są łatwo mylone, podczas gdy rozróżnienie jest istotne; zob. kto jest odpowiedzialny, gdy zastosowanie AI popełni błąd.
Nadzór dotyczy również tego, co jest wprowadzane do danego zastosowania. Pracownik, który wkleja dane firmowe do darmowego okna czatu, umieszcza te dane poza wszelkim nadzorem, jaki organizacja zorganizowała, niezależnie od tego, jak dobrze zorganizowany jest nadzór nad zatwierdzonymi zastosowaniami. To odrębny obszar uwagi w ramach szerszej kwestii, opisany w co robić z danymi firmowymi w darmowym oknie czatu.
Ta strona opisuje, jak nadzór działa jako mechanizm: kto patrzy, kiedy, z jakim uprawnieniem, i jak to jest wykazywane. Normy merytoryczne, które określają, kiedy nadzór jest obowiązkowy, jak rygorystyczny musi być ten nadzór w zależności od kategorii ryzyka i w jakich terminach musi to być zorganizowane, nie są opisane tutaj. Treść tych przepisów zmienia się i jest aktualizowana gdzie indziej.
Organizowanie nadzoru nad zadaniem ma sens tylko wtedy, gdy jasne jest, co to zadanie właściwie obejmuje i jaka jego część jest wykonywana przez zastosowanie AI. To inne pytanie niż to, jaką rolę lub jaki poziom ryzyka ma dane zastosowanie; chodzi o samo zadanie, rozłożone na kroki, które zastosowanie AI może przejąć, i kroki, które się do tego nie kwalifikują. Skan pracy FTE TO AI oblicza to dla każdego zadania, dzięki czemu widać, jaka część pracy może zostać przejęta i jaka część musi pozostać w zasięgu nadzoru ludzkiego.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.