V zdravstvu je razmerje med tem, kaj je odobreno, in tem, kaj se uporablja, drugačno kot v večini sektorjev. Že obstaja gost sistem preverjanja: regulativa medicinskih pripomočkov, kakovostni okviri, medicinsko-etične komisije za presojo, pooblaščenci za varstvo podatkov. Ta sistem je zgrajen okrog fizičnih naprav, zdravil in protokolov zdravljenja. Aplikacije AI pogosto zdrsnejo skoznje, ker niso bile nabavljene kot pripomoček, temveč se uporabljajo kot pripomoček. Jezikovni model, ki sobere v bolnikovi kartoteki, orodje za transkripcijo med posvetom, algoritem, ki podpira triažo: nobena od teh aplikacij ni bila nujno speljana skozi obstoječo pot presoje, in kljub temu se dnevno uporablja.
Poleg tega v zdravstvu interesi tehtajo bolj kot v mnogih drugih sektorjih. Ne gre le za poslovanje, temveč za varnost bolnikov, medicinsko-etično odgovornost in zaupanje bolnikov, da se z njihovimi podatki ravna nadzorovano. To vprašanje "kaj pravzaprav teče" naredi bolj nujno kot drugje, in obenem težje odgovoriti nanj, ker zdravstveni delavci delajo pod časovnim pritiskom, in orodje, ki pomaga, se ne prijavi hitro, če se prijava zdi kot ovinek.
IT-oddelek zdravstvene ustanove ima seznam odobrenih sistemov. Ta seznam je izhodišče, ne resničnost. Zdravnik, ki uporablja jezikovni model za pripravo osnutka odpustnega pisma, medicinska sestra, ki se posvetuje z aplikacijo glede interakcij zdravil, tajništvo, ki uporablja prepoznavanje govora zunaj uradnega sistema kartotek: tovrstna uporaba nastane, ker prinaša rezultate pri delu, ne ker je bila zaprošena. Nihče tega ni želel zamolčati. Preprosto nikoli ni bilo vprašano, in kdor to vpraša, mora to storiti, ne da bi mu grozila sankcija. Samo tako pride pošten odgovor, in samo s poštenim odgovorom lahko ustanova ve, kje so tveganja resnično.
Po inventarizaciji sledi klasifikacija: kakšno vlogo opravlja aplikacija AI in kakšna stopnja tveganja k temu spada. V zdravstvu je to razlikovanje izrazito. Orodje, ki povzema zapiske za lastno uporabo zdravstvenega delavca, ima drugačno težo kot sistem, ki soodloča pri diagnozi ali pri odločitvi o zmogljivosti zdravljenja. Samo klasifikacijo določa regulativa, ki presega to stran in se nenehno razvija; aktualna razvrstitev in z njo povezane obveznosti so opisane drugje. Kar šteje tukaj, je mehanizem: vsaka aplikacija dobi mesto v razvrstitvi po funkciji in vplivu, tako da je jasno, katere aplikacije zahtevajo pozornost in katere ne.
Zdravstvene ustanove ne gradijo iz nič. Že obstajajo komisije za presojo, sistemi kakovosti, pooblaščenci za varstvo podatkov in notranje revizijske poti. Pristop k upravljanju AI, ki je od tega ločen, postane dodaten sloj, ki ga nihče ne vzdržuje. Pristop, ki se naveže na obstoječo strukturo, postane del tega, kar se že dogaja: ista komisija, ki presoja nov pripomoček, presoja tudi novo aplikacijo AI; isti register tveganj dobi rubriko za AI poleg rubrik, ki že obstajajo. To ne zahteva nove naprave, temveč okvira, ki se prilega temu, kar ustanova že počne.
Upravni odbor, nadzorni organ ali inšpekcija želi videti, kaj se dogaja, ne le predpostavljati, da je stvar pod nadzorom. Dokazljivost pomeni, da obstaja aktualen pregled, katere aplikacije AI so v uporabi, kdo jih uporablja, kakšna stopnja tveganja jim pripada in kakšni dogovori so bili sklenjeni okoli njih. Ta pregled ni enkraten dokument. Zdravstvene ustanove nenehno spreminjajo sisteme, in osebje prenaša orodja iz enega oddelka v drugega. Nabor upravljanja, ki to spremlja, je uporaben v trenutku, ko se zahteva odgovornost, in ne le v trenutku, ko je bil pripravljen.
Kombinacija strogega obstoječega preverjanja in hitro rastoče neformalne uporabe ni edinstvena za zdravstvo, čeprav tu dobi ostrejši naboj zaradi bolnika, ki stoji na koncu verige. Ustanove, ki želijo videti, kako se podobna vprašanja urejajo v drugem kontekstu, si lahko ogledajo, kako upravljanje AI v izobraževanju obravnava podobno napetost med dolžnostjo skrbnosti in praktično uporabo, kako upravljanje AI v poslovnih storitvah varuje zaupnost in interes stranke, ali kako upravljanje AI v predelovalni industriji obravnava sisteme, ki neposredno posegajo v fizični proces.
Ko je jasno, katere aplikacije AI delujejo in v katero stopnjo tveganja spadajo, ostane odprto drugo vprašanje: kaj ta uporaba pomeni za samo delo. Inventarizacija upravljanja pokaže, kaj deluje, ne koliko časa to sprosti ali kateri del naloge je dejansko mogoče prevzeti. To vprašanje leži zunaj upravljanja in znotraj delovne analize podjetja FTE TO AI, ki za vsako nalogo izračuna, kateri del dela je mogoče prevzeti z AI. Za zdravstveno ustanovo, ki najprej želi pregled nad tem, kaj se uporablja, in šele nato želi vedeti, kaj ta uporaba pomeni za razporeditev osebja, to drugo vprašanje logično sledi prvemu.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.