Veselības aprūpē attiecība starp to, kas tiek apstiprināts, un to, kas tiek lietots, ir citāda nekā vairumā nozaru. Šeit jau pastāv blīva pārbaudes sistēma: medicīnisko ierīču regulējums, kvalitātes ietvari, medicīniski ētikas komitejas, datu aizsardzības speciālisti. Šī sistēma ir veidota ap fiziskām ierīcēm, medikamentiem un ārstniecības protokoliem. AI risinājumi tai bieži paslīd cauri, jo tie nav iepirkti kā palīglīdzeklis, bet tiek izmantoti kā palīglīdzeklis. Valodas modelis, kas lasa līdzi pacienta dokumentācijā, transkripcijas rīks konsultācijas laikā, algoritms, kas atbalsta triāžu: nevienam no šiem risinājumiem nav bijis nepieciešams iziet esošo pārbaudes ceļu, lai tos tomēr izmantotu ik dienu.
Tam pievienojas fakts, ka veselības aprūpē intereses sver vairāk nekā daudzās citās nozarēs. Runa nav tikai par darbības procesiem, bet par pacientu drošību, medicīniski ētisko atbildību un pacientu pārliecību, ka viss, kas notiek ar viņu datiem, notiek kontrolēti. Tas jautājumu "kas šeit patiesībā darbojas" padara asāku nekā citur, un vienlaikus grūtāk atbildamu, jo veselības aprūpes speciālisti strādā laika spiediena apstākļos, un rīks, kas palīdz, netiek ātri pieteikts, ja pieteikšana šķiet kā apkārtceļš.
Veselības aprūpes iestādes IT nodaļai ir apstiprināto sistēmu sarakstam. Šis sarakstam ir sākumpunkts, nevis realitāte. Ārsts, kas izmanto valodas modeli, lai sagatavotu izrakstīšanas vēstules melnrakstu, māsa, kas konsultējas ar aplikāciju par medikamentu mijiedarbībām, sekretariāts, kas izmanto balss atpazīšanu ārpus oficiālās dokumentācijas sistēmas: šāda veida lietojums rodas, jo tas paveic darbu, nevis jo tas ir pieprasīts. Neviens nav gribējis to noslēpt. Vienkārši nekad nav jautāts, un tam, kas tiešām jautā, tas jādara bez soda draudiem. Tikai tad tiek saņemta patiesa atbilde, un tikai ar patiesu atbildi iestāde var zināt, kur risks patiešām slēpjas.
Pēc inventarizācijas seko klasifikācija: kādu lomu pilda AI risinājums un kāds riska līmenis tam atbilst. Veselības aprūpē šī atšķirība ir izteikta. Rīks, kas apkopo piezīmes veselības aprūpes darbinieka pašlietojumam, nes citu svaru nekā sistēma, kas piedalās diagnozes noteikšanā vai lēmumā par ārstniecības kapacitāti. Klasifikāciju pašu nosaka regulējums, kas neietilpst šajā lapā un kas nepārtraukti attīstās; aktuālo iedalījumu un ar to saistītos pienākumus var atrast citur. Šeit svarīgs ir mehānisms: katram risinājumam tiek piešķirta vieta iedalījumā pēc funkcijas un ietekmes, lai būtu skaidrs, kuriem risinājumiem nepieciešama uzmanība un kuriem nē.
Veselības aprūpes iestādes nebūvē no nulles. Jau pastāv pārbaudes komitejas, kvalitātes sistēmas, datu aizsardzības speciālisti un iekšējie audita ceļi. AI pārvaldības pieeja, kas ar to nav savienota, kļūst par papildu slāni, ko neviens neuztur. Pieeja, kas savienojas ar esošo struktūru, kļūst par daļu no tā, kas jau notiek: tā pati komiteja, kas novērtē jaunu palīglīdzekli, novērtē arī jaunu AI risinājumu; tam pašam riska reģistram tiek pievienota AI rubrika līdzās tām, kas tur jau ir. Tas neprasa jaunu ierīci, bet ietvaru, kas iederas tajā, ko iestāde jau dara.
Valde, uzraudzības institūcija vai inspekcija vēlas redzēt, kas notiek, nevis pieņemt, ka tas ir kontrolē. Pierādāmība nozīmē, ka pastāv aktuāls pārskats par tām AI risinājumiem, kas ir izmantošanā, kas tos lieto, kāds riska līmenis tiem atbilst un kādas vienošanās ap tiem ir noslēgtas. Šis pārskats nav vienreizējs dokuments. Veselības aprūpes iestādes nepārtraukti maina sistēmas, un personāls pārnes rīkus no vienas nodaļas uz citu. Pārvaldības kopums, kas to seko, ir izmantojams tajā brīdī, kad tiek pieprasīta atbildība, nevis vienīgi brīdī, kad tas ir sastādīts.
Stingras esošās pārbaudes un ātri augoša neformāla lietojuma kombinācija nav unikāla veselības aprūpei, lai gan tā šeit iegūst asāku svaru pacienta dēļ, kurš atrodas ķēdes galā. Iestādes, kas vēlas redzēt, kā līdzīgi jautājumi tiek risināti citā kontekstā, var aplūkot, kā AI pārvaldība izglītībā risina līdzīgu spriedzi starp rūpības pienākumu un praktisko lietojumu, kā AI pārvaldība biznesa pakalpojumos sargā konfidencialitāti un klienta interesi, vai kā AI pārvaldība ražošanas nozarē risina sistēmas, kas tieši iejaucas fiziskā procesā.
Tiklīdz ir skaidrs, kuri AI risinājumi darbojas un kādam riska līmenim tie pieder, paliek cits jautājums: ko šis lietojums nozīmē pašam darbam. Pārvaldības inventarizācija parāda, kas darbojas, nevis to, cik daudz laika tas atbrīvo vai kuru daļu no uzdevuma faktiski var pārņemt. Šis jautājums atrodas ārpus pārvaldības un iekšpus FTE TO AI darba skenēšanas, kas katram uzdevumam aprēķina, kuru darba daļu var pārņemt AI. Veselības aprūpes iestādei, kas vispirms vēlas pārskatu par to, kas tiek lietots, un pēc tam vēlas zināt, ko šis lietojums nozīmē personāla izvietojumam, šis otrais jautājums loģiski izriet no pirmā.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.