Tervishoius on suhe selle vahel, mis on heaks kiidetud, ja selle vahel, mida kasutatakse, teistsugune kui enamikus sektorites. Seal on juba tihe kontrollisüsteem: meditsiiniseadmete regulatsioon, kvaliteediraamistikud, meditsiin-eetika komisjonid, andmekaitsespetsialistid. See süsteem on ehitatud füüsiliste seadmete, ravimite ja raviprotokollide ümber. AI-rakendused libisevad sellest sageli läbi, kuna neid ei ole ostetud abivahendina, kuid neid kasutatakse abivahendina. Keelemudel, mis loeb kaasa patsiendi haigusloos, transkriptsioonitööriist konsultatsiooni ajal, algoritm, mis toetab triaaži: mitte ükski neist rakendustest ei pea olema läbinud olemasolevat kontrolliteed, et olla ikkagi igapäevaselt kasutuses.
Sellele lisandub, et huvid tervishoius kaaluvad rohkem kui paljudes teistes sektorites. Küsimus ei ole ainult äritegevuses, vaid patsiendi turvalisuses, meditsiin-eetilises vastutuses ja patsientide usalduses, et see, mis nende andmetega toimub, on kontrollitud. See teeb küsimuse "mis siin tegelikult töötab" mujal olulisemaks ja samal ajal raskemaks vastata, kuna tervishoiutöötajad töötavad ajapressi all ning tööriista, mis aitab, ei teatata kiiresti, kui teatamine tundub kõrvaltee.
Tervishoiuasutuse IT-osakonnal on heakskiidetud süsteemide nimekiri. See nimekiri on lähtepunkt, mitte tegelikkus. Arst, kes kasutab keelemudelit epikriisi mustandi koostamiseks, õde, kes konsulteerib rakendust ravimite koostoimete kohta, sekretariaat, mis kasutab kõnetuvastust ametlikust dokumendisüsteemist väljaspool: selline kasutus tekib, kuna see toob tulemusi, mitte kuna selleks on luba küsitud. Keegi ei ole tahtnud seda varjata. Seda ei ole lihtsalt kunagi küsitud, ja kes seda ka küsib, peab saama seda teha ilma karistuse ähvardusest. Ainult sel juhul tuleb aus vastus, ja ainult ausa vastusega saab asutus teada, kus riskid tegelikult peituvad.
Pärast kaardistamist järgneb klassifitseerimine: millist rolli täidab AI-rakendus ja milline riskitase sellega kaasneb. Tervishoius on see vahe terav. Tööriist, mis võtab kokku märkmeid tervishoiutöötaja enda tarbeks, kannab teistsugust kaalu kui süsteem, mis mõjutab diagnoosi või raviresursside otsust. Klassifitseerimist ennast määrab regulatsioon, mis jääb sellest lehest väljapoole ja mis on pidevas arengus; aktuaalne jaotus ja sellega kaasnevad kohustused on toodud mujal. Siin loeb mehhanism: iga rakendus saab oma koha funktsiooni ja mõju järgi tehtud jaotuses, nii et selgub, millised rakendused vajavad tähelepanu ja millised mitte.
Tervishoiuasutused ei ehita nullist. Juba on olemas komisjonid, kvaliteedisüsteemid, andmekaitsespetsialistid ja sisemised audititeed. AI-juhtimise lähenemine, mis on nendest lahus, muutub täiendavaks kihiks, mida keegi ei hoolda. Lähenemine, mis ühendub olemasoleva struktuuriga, saab osaks sellest, mis juba toimub: sama komisjon, mis hindab uut abivahendit, hindab ka uut AI-rakendust; samasse riskiregistrisse tuleb AI-le rubriik juba olemasolevate rubriikide kõrvale. See ei nõua uut seadet, vaid raamistikku, mis sobitub sellega, mida asutus juba tegemas on.
Nõukogu, järelevalveorgan või inspektsioon soovib näha, mis toimub, mitte eeldada, et see on kontrolli all. Tõendatavus tähendab, et olemas on aktuaalne ülevaade, milliseid AI-rakendusi kasutatakse, kes neid kasutab, milline riskitase nendega kaasneb ja millised kokkulepped on nende kohta tehtud. See ülevaade ei ole ühekordne dokument. Tervishoiuasutused vahetavad süsteeme pidevalt, ja personal võtab tööriistu kaasa ühelt osakonnalt teisele. Juhtimiskomplekt, mis seda jälgib, on kasutatav hetkel, kui vastutust küsitakse, mitte ainult hetkel, kui see koostatud on.
Range olemasoleva kontrolli ja kiiresti kasvava mitteametliku kasutuse kombinatsioon ei ole tervishoiule ainuomane, kuigi see saab siin teravama tähenduse patsiendi tõttu, kes seisab ahela lõpus. Asutused, kes soovivad näha, kuidas sarnaseid küsimusi korraldatakse teises kontekstis, võivad vaadata, kuidas AI-juhtimine hariduses tegeleb sarnase pinge küsimusega hoolekohustuse ja praktilise kasutuse vahel, kuidas AI-juhtimine äriteenustes valvab konfidentsiaalsuse ja kliendi huvide üle, või kuidas AI-juhtimine tootmistööstuses tegeleb süsteemidega, mis mõjutavad otseselt füüsilist protsessi.
Kui on selge, milliseid AI-rakendusi kasutatakse ja millise riskitaseme alla need kuuluvad, jääb üle teine küsimus: mida see kasutus tähendab töö enda jaoks. Juhtimise kaardistamine näitab, mis töötab, mitte kui palju aega see vabastab või milline osa ülesandest tegelikult üle võetakse. See küsimus jääb väljapoole juhtimist ja kuulub FTE TO AI tööskaneerimise valdkonda, mis arvutab ülesande kaupa, millise osa tööst on võimalik AI-le üle anda. Tervishoiuasutusele, kes soovib esmalt ülevaadet sellest, mida kasutatakse, ja seejärel soovib teada, mida see kasutus tähendab personali rakendamise jaoks, järgneb see teine küsimus loogiliselt esimesest.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.