W opiece zdrowotnej relacja między tym, co jest zatwierdzone, a tym, co jest faktycznie używane, wygląda inaczej niż w większości sektorów. Istnieje już gęsty system kontroli: regulacje dotyczące wyrobów medycznych, ramy jakości, komisje etyki medycznej, inspektorzy ochrony danych. System ten jest zbudowany wokół fizycznych urządzeń, leków i protokołów leczenia. Zastosowania AI często wymykają się temu systemowi, ponieważ nie są kupowane jako narzędzie, lecz używane jako narzędzie. Model językowy, który współczytuje dokumentację pacjenta, narzędzie do transkrypcji podczas konsultacji, algorytm wspierający triage: żadne z tych zastosowań nie musiało przejść przez istniejącą procedurę kontroli, aby być używane codziennie.
Do tego dochodzi fakt, że interesy w opiece zdrowotnej mają większą wagę niż w wielu innych sektorach. Nie chodzi tylko o funkcjonowanie organizacji, ale o bezpieczeństwo pacjenta, odpowiedzialność medyczno-etyczną oraz zaufanie pacjentów, że to, co dzieje się z ich danymi, przebiega w sposób kontrolowany. To sprawia, że pytanie „co tu właściwie działa” jest bardziej przenikliwe niż gdzie indziej, a jednocześnie trudniejsze do odpowiedzenia, ponieważ pracownicy opieki zdrowotnej działają pod presją czasu, a narzędzie, które pomaga, nie jest szybko zgłaszane, jeśli zgłoszenie wydaje się objazdem.
Dział IT placówki opieki zdrowotnej ma listę zatwierdzonych systemów. Ta lista jest punktem wyjścia, a nie rzeczywistością. Lekarz, który używa modelu językowego do sformułowania szkicu listu wypisowego, pielęgniarka, która korzysta z aplikacji sprawdzającej interakcje leków, sekretariat, który wykorzystuje rozpoznawanie mowy poza oficjalnym systemem dokumentacji: takie użycie powstaje, ponieważ przynosi efekty w pracy, a nie ponieważ zostało zgłoszone. Nikt nie chciał tego zataić. Po prostu nigdy o to nie zapytano, a ten, kto pyta, musi to robić bez wisiącej w powietrzu sankcji. Tylko wtedy pojawia się szczera odpowiedź, a tylko przy szczerej odpowiedzi placówka może wiedzieć, gdzie faktycznie leżą ryzyka.
Po inwentaryzacji następuje klasyfikacja: jaką rolę odgrywa dane zastosowanie AI i jaki poziom ryzyka jest z nim związany. W opiece zdrowotnej to rozróżnienie jest wyraźne. Narzędzie, które podsumowuje notatki do własnego użytku pracownika opieki zdrowotnej, ma inną wagę niż system, który współdecyduje o diagnozie lub o decyzji dotyczącej pojemności leczenia. Sama klasyfikacja jest określana przez regulacje, które wykraczają poza tę stronę i które nieustannie się rozwijają; aktualny podział i związane z nim obowiązki znajdują się gdzie indziej. Tutaj liczy się mechanizm: każde zastosowanie otrzymuje miejsce w podziale według funkcji i wpływu, dzięki czemu staje się jasne, które zastosowania wymagają uwagi, a które nie.
Placówki opieki zdrowotnej nie budują od zera. Istnieją już komisje kontrolne, systemy jakości, inspektorzy ochrony danych i wewnętrzne procedury audytu. Podejście do governance AI, które jest od tego oddzielone, staje się dodatkową warstwą, o którą nikt się nie troszczy. Podejście, które dopasowuje się do istniejącej struktury, staje się częścią tego, co już się dzieje: ta sama komisja, która ocenia nowe narzędzie, ocenia również nowe zastosowanie AI; ten sam rejestr ryzyka otrzymuje rubrykę dla AI obok już istniejących rubryk. To nie wymaga nowego urządzenia, lecz ram, które pasują do tego, co placówka już robi.
Rada zarządu, organ nadzorczy lub inspekcja chcą mieć możliwość zobaczenia, co się dzieje, a nie zakładać, że jest to pod kontrolą. Wykazywalność oznacza, że istnieje aktualny przegląd tego, jakie zastosowania AI są używane, kto je używa, jaki poziom ryzyka jest z nimi związany i jakie ustalenia zostały wokół nich poczynione. Ten przegląd nie jest jednorazowym dokumentem. Placówki opieki zdrowotnej nieustannie zmieniają systemy, a personel przenosi narzędzia z jednego działu do drugiego. Zestaw governance, który to śledzi, jest użyteczny w momencie, gdy wymaga się rozliczenia, a nie tylko w momencie, gdy został sporządzony.
Połączenie ścisłej istniejącej kontroli i szybko rosnącego nieformalnego użycia nie jest unikalne dla opieki zdrowotnej, choć nabiera tu ostrzejszego wydźwięku ze względu na pacjenta, który znajduje się na końcu łańcucha. Placówki, które chcą zobaczyć, jak podobne zagadnienia są uregulowane w innym kontekście, mogą zapoznać się z tym, jak AI-governance w edukacji radzi sobie z podobnym napięciem między obowiązkiem opieki a praktycznym użyciem, ze sposobem, w jaki AI-governance w usługach biznesowych chroni poufność i interes klienta, lub z tym, jak AI-governance w przemyśle wytwórczym radzi sobie z systemami, które bezpośrednio wpływają na proces fizyczny.
Gdy już jasne jest, jakie zastosowania AI działają i pod jaki poziom ryzyka podlegają, pozostaje inne pytanie: co to użycie oznacza dla samej pracy. Inwentaryzacja governance pokazuje, co działa, a nie ile czasu to zwalnia lub jaka część zadania może zostać faktycznie przejęta. To pytanie leży poza governance i wewnątrz skanu pracy FTE TO AI, który dla każdego zadania obliczy, jaką część pracy można przekazać AI. Dla placówki opieki zdrowotnej, która najpierw chce mieć przegląd tego, co jest używane, a następnie chce wiedzieć, co to użycie oznacza dla zaangażowania personelu, to drugie pytanie logicznie wynika z pierwszego.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.