Zastosowanie AI popełnia błąd. Decyzja jest niewłaściwa, porada jest myląca, klient zostaje niesprawiedliwie odrzucony. Pytanie, które następuje, nie jest tylko techniczne. Kto powinien to przewidzieć, kto zarządzał systemem i kto może wyjaśnić, dlaczego został wdrożony w taki sposób, w jaki został wdrożony.
Ta odpowiedź nie istnieje w oderwaniu od rejestru. Odpowiedzialność zakłada, że ktoś wie, że zastosowanie istnieje, do czego służy i kto za nie odpowiada. Bez tej podstawy pytanie o odpowiedzialność jest retoryczne: nie ma nikogo, kto to wie, więc nie ma nikogo, kto może to wyjaśnić.
Responsible AI Scan przedstawia obraz tego, co działa, kto to używa i z jakim poziomem ryzyka to się wiąże. To punkt wyjścia, nie wyrok o winie. Skan klasyfikuje zastosowanie według roli i ryzyka; nie ocenia, czy pojedyncza decyzja była właściwa. Ta ocena należy do samego incydentu, nie do inwentaryzacji, która go poprzedzała.
Co skan faktycznie robi, to zapewnienie struktury, w ramach której tę ocenę można później przeprowadzić. Jeśli wiadomo, kto nabył zastosowanie, kto nim zarządza i do jakiego celu zostało zatwierdzone, istnieje linia, do której można się odwołać. Bez tej struktury pytanie o odpowiedzialność sprowadza się do domysłów po fakcie.
Większość organizacji ma przegląd zatwierdzonego oprogramowania. Ten przegląd jest prawie nigdy kompletny. Pracownicy używają narzędzi, których nikt nie zgłosił, często ponieważ praca idzie szybciej i nikt o to nie pytał. To nie jest z definicji nieodpowiedzialne zachowanie; to jest to, co się dzieje, gdy organizacja nie oferuje innej drogi.
Kto chce wiedzieć, co jest naprawdę używane, musi zapytać. A to działa tylko wtedy, gdy zadawanie pytań nie ma konsekwencji. Gdy pracownik podejrzewa, że szczera odpowiedź prowadzi do rozmowy korygującej, odpowiedź przestaje być udzielana. Co robicie z pracownikami, którzy używają narzędzia, którego nikt nie zatwierdził opisuje właśnie ten mechanizm: inwentaryzacja jest tak dobra, jak zaufanie, z jakim jest zbierana.
Do tego dochodzi także pytanie, co się dzieje z informacjami firmowymi, gdy są wpisywane w zewnętrznym oknie. Co robicie z danymi firmowymi w darmowym oknie czatu opisuje ryzyko niezwiązane ze złą wolą: ktoś chce po prostu sprawdzić tekst i wpisuje przy tym coś, czego nie powinien.
Zestaw governance, który następuje po inwentaryzacji, określa, kto zatwierdza zastosowanie, kto sprawuje nadzór i jak to jest dokumentowane. To łączy się ze strukturą ryzyka, którą organizacja już ma dla innych obszarów: te same komitety, te same linie raportowania, te same ścieżki eskalacji. Nie powstaje nowy aparat obok istniejącego; do tego, co już istnieje, dodawana jest kategoria.
To daje wykazywalność: zarząd może wykazać, że sprawdzono, sklasyfikowano i wprowadzono nadzór. Nie daje gwarancji, że zastosowanie nigdy więcej nie popełni błędu. Te dwie rzeczy są od siebie odległe i skan nie wypowiada się na temat tej drugiej. Co daje, to podstawa, na której zarząd może wyjaśnić, co zostało zrobione, nie zabezpieczenie przed tym, co jeszcze może się wydarzyć.
Często popełnianym błędem jest tworzenie odrębnego procesu AI, w oderwaniu od istniejącej struktury ryzyka i zgodności. Ten proces na początku otrzymuje uwagę, a potem znika w tło, ponieważ nikt nie utrzymuje drugiego systemu obok pierwszego. Dlaczego drugi proces obok istniejącego zostaje zignorowany wyjaśnia, dlaczego powiązanie z istniejącymi strukturami nie jest kwestią efektywności, lecz warunkiem istnienia.
Do tego należy również fakt, że inwentaryzacja jest momentem, nie punktem końcowym. Nowe zastosowania są dodawane, istniejące zmieniają funkcję, a klasyfikacja, która była poprawna przy wdrożeniu, nie jest automatycznie poprawna rok później. Jak często należy przeprowadzać ponowną klasyfikację i jak utrzymać aktualny rejestr AI opisują, czego to utrzymanie wymaga w praktyce, i dlaczego rejestr utworzony jednorazowo w niedługim czasie nie odpowiada już rzeczywistości.
Ludzie, którzy pracują z tymi zastosowaniami, są ponadto częścią rozwiązania, nie tylko ryzykiem, którym trzeba zarządzać. Co pracownicy rozumieją, a czego nie rozumieją z systemów, które używają, decyduje o tym, czy zestaw governance ma w praktyce jakieś znaczenie. Co oznacza kompetencja cyfrowa w zakresie AI dla waszych pracowników omawia ten aspekt.
Kto już wie, jakie zastosowania AI działają i kto za nie odpowiada, naturalnie napotyka kolejne pytanie: która część pracy wykonywanej obecnie ręcznie właściwie nadaje się do przekazania zastosowaniu AI. To inne pytanie niż odpowiedzialność, ale takie, które opiera się na tej samej inwentaryzacji. Skan pracy FTE TO AI wylicza dla każdego zadania, jaka część pracy może zostać przejęta przez AI, jako następny krok po tym, jak jasne jest, co już działa i kto o tym decyduje.
Skan opisany na tej stronie jest w budowie. Kto jest zainteresowany, może zapisać się na listę oczekujących; na razie nie dostarcza się niczego, co nie jest gotowe.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.