Sveikatos priežiūroje santykis tarp to, kas patvirtinta, ir to, kas naudojama, skiriasi nuo daugumos sektorių. Jau egzistuoja tanki tikrinimo sistema: medicinos priemonių reglamentavimas, kokybės sistemos, medicinos etikos vertinimo komisijos, duomenų apsaugos pareigūnai. Ta sistema sukurta apie fizinius įrenginius, vaistus ir gydymo protokolus. AI sprendimai dažnai prasprūsta pro tuos tarpus, nes jie nebuvo įsigyti kaip priemonė, tačiau naudojami kaip priemonė. Kalbos modelis, kuris skaito paciento bylą lygiagrečiai, transkripcijos įrankis konsultacijos metu, algoritmas, padedantis atlikti triažą: nė vienam iš šių sprendimų nereikėjo praeiti esamą tikrinimo procedūrą, kad būtų naudojamas kasdien.
Prie to prisideda ir tai, kad sveikatos priežiūroje interesai sveria daugiau nei daugelyje kitų sektorių. Kalbama ne vien apie veiklos valdymą, bet apie pacientų saugumą, medicinos etikos atsakomybę ir pacientų pasitikėjimą tuo, kad tai, kas vyksta su jų duomenimis, yra kontroliuojama. Tai klausimą „kas čia iš tikrųjų vyksta“ daro aktualesnį nei kitur, ir tuo pačiu sunkiau atsakomą, nes sveikatos priežiūros specialistai dirba spaudžiami laiko, o įrankis, kuris padeda, nebūna greitai pranešamas, jei pranešimas jaučiasi kaip aplinkinis kelias.
Sveikatos priežiūros įstaigos IT skyrius turi patvirtintų sistemų sąrašą. Tas sąrašas yra pradžios taškas, ne realybė. Gydytojas, naudojantis kalbos modelį išrašymo laiško juodraščiui, slaugytoja, kuri konsultuojasi su programa dėl vaistų sąveikų, sekretoriatas, taikantis balso atpažinimą už oficialios bylų sistemos ribų: toks naudojimas kyla, nes jis duoda darbo rezultatą, o ne dėl to, kad buvo paprašytas leidimas. Niekas nesiekė to nuslėpti. Tiesiog to nebuvo paklausta, o tas, kuris paklausia, turi galėti tai padaryti nesibaiminant sankcijos. Tik tada gaunamas sąžiningas atsakymas, ir tik su sąžiningu atsakymu įstaiga gali sužinoti, kur iš tikrųjų slypi rizikos.
Po inventorizacijos vyksta klasifikavimas: kokį vaidmenį atlieka AI sprendimas ir koks rizikos lygis jam priskiriamas. Sveikatos priežiūroje šis skirtumas yra ryškus. Įrankis, apibendrinantis pastabas sveikatos priežiūros specialisto asmeniniam naudojimui, sveria kitaip nei sistema, kuri prisideda prie diagnozės ar sprendimo dėl gydymo pajėgumų. Pačią klasifikaciją nustato reglamentavimas, kuris nepatenka į šį puslapį ir kuris nuolat kinta; aktualus skirstymas ir su juo susiję įpareigojimai aptariami kitur. Kas čia svarbu, yra pats mechanizmas: kiekvienam sprendimui priskiriama vieta skirstyme pagal funkciją ir poveikį, kad būtų aišku, kurie sprendimai reikalauja dėmesio, o kurie ne.
Sveikatos priežiūros įstaigos nekuria nuo nulio. Jau yra vertinimo komisijos, kokybės sistemos, duomenų apsaugos pareigūnai ir vidiniai audito keliai. AI valdymo požiūris, atskirtas nuo to, tampa papildomu sluoksniu, kurio niekas neprižiūri. Požiūris, susietas su esama struktūra, tampa dalimi to, kas jau vyksta: ta pati komisija, kuri vertina naują priemonę, vertina ir naują AI sprendimą; tas pats rizikos registras įgauna skiltį AI, greta jau esančių skilčių. Tam nereikia naujo įrenginio, bet reikia sistemos, kuri tiktų prie to, ką įstaiga jau daro.
Valdyba, priežiūros institucija ar inspekcija norėtų matyti, kas vyksta, o ne manyti, kad tai kontroliuojama. Įrodomumas reiškia, kad egzistuoja atnaujinta apžvalga, kurie AI sprendimai naudojami, kas juos naudoja, koks rizikos lygis jiems priskirtas ir kokie susitarimai dėl to sudaryti. Ta apžvalga nėra vienkartinis dokumentas. Sveikatos priežiūros įstaigos nuolat keičia sistemas, o personalas persineša įrankius iš vieno padalinio į kitą. Valdymo rinkinys, kuris tai fiksuoja, yra naudingas tuo momentu, kai reikalaujama atskaitomybės, o ne vien tuo momentu, kai jis buvo sudarytas.
Griežto esamo tikrinimo ir sparčiai augančio neformalaus naudojimo kombinacija nėra unikali sveikatos priežiūrai, nors čia ji įgauna aštresnę reikšmę dėl paciento, esančio grandinės gale. Įstaigos, norinčios pamatyti, kaip panašūs klausimai sprendžiami kitame kontekste, gali pažvelgti, kaip AI valdymas švietime tvarko panašią įtampą tarp rūpinimosi pareigos ir praktinio naudojimo, kaip AI valdymas verslo paslaugų sektoriuje saugo konfidencialumą ir kliento interesus, arba kaip AI valdymas gamybos pramonėje tvarko sistemas, kurios tiesiogiai veikia fizinį procesą.
Kai tampa aišku, kokie AI sprendimai veikia ir kokiam rizikos lygiui jie priskiriami, išlieka kitas klausimas: ką tas naudojimas reiškia patiems darbams. Valdymo inventorizacija parodo, kas veikia, bet ne tai, kiek laiko tai atlaisvina ar kokia dalis užduoties iš tikrųjų gali būti perimta. Tas klausimas yra už valdymo ribų ir priklauso FTE TO AI darbo skenavimui, kuris kiekvienai užduočiai apskaičiuoja, kokią darbo dalį gali perimti AI. Sveikatos priežiūros įstaigai, kuri pirmiausia nori apžvalgos, kas naudojama, ir tik tada norės sužinoti, ką tas naudojimas reiškia personalo paskirstymui, tas antras klausimas logiškai seka po pirmojo.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.