U zdravstvu je odnos između onoga što je odobreno i onoga što se koristi drugačiji nego u većini sektora. Već postoji gust sustav provjere: regulativa za medicinske proizvode, okviri kvalitete, medicinsko-etička povjerenstva za provjeru, službenici za zaštitu podataka. Taj je sustav izgrađen oko fizičkih uređaja, lijekova i protokola liječenja. AI-alati često prokliznu kroz taj sustav, jer nisu nabavljeni kao hulpmiddel, nego se koriste kao hulpmiddel. Jezični model koji čita zajedno s pacijentovim dosjeom, alat za transkripciju tijekom konzultacije, algoritam koji podupire triažu: nijedan od tih alata nije morao proći postojeći put provjere da bi se svejedno svakodnevno koristio.
Uz to, interesi u zdravstvu teže su nego u mnogim drugim sektorima. Ne radi se samo o poslovanju, nego o sigurnosti pacijenata, medicinsko-etičkoj odgovornosti i povjerenju pacijenata da se s njihovim podacima postupa na kontroliran način. To pitanje "što se ovdje zapravo koristi" čini prodornijim nego negdje drugdje, a istodobno težim za odgovoriti, jer zdravstveni djelatnici rade pod vremenskim pritiskom, a alat koji pomaže neće se brzo prijaviti ako se prijavljivanje osjeća kao zaobilaznica.
IT-odjel zdravstvene ustanove ima popis odobrenih sustava. Taj popis je polazna točka, a ne stvarnost. Liječnik koji koristi jezični model za koncipiranje otpusnog pisma, medicinska sestra koja se savjetuje s aplikacijom o interakcijama lijekova, tajništvo koje koristi prepoznavanje govora izvan službenog sustava dosjea: ovakva vrsta uporabe nastaje jer donosi rezultat u radu, a ne jer je zatražena. Nitko to nije htio prikriti. Jednostavno nikad nije bilo pitano, a onaj koji to pita mora to učiniti bez prijetnje sankcijom u pozadini. Samo tada dolazi iskren odgovor, a samo s iskrenim odgovorom ustanova može znati gdje se rizici zapravo nalaze.
Nakon inventarizacije slijedi klasifikacija: koju ulogu ima AI-alat i koja razina rizika joj pripada. U zdravstvu je ta razlika oštra. Alat koji sažima zabilješke za osobnu upotrebu zdravstvenog djelatnika nosi drugačiju težinu od sustava koji sudjeluje u dijagnozi ili u odluci o kapacitetu liječenja. Samu klasifikaciju određuje regulativa koja izlazi izvan okvira ove stranice i koja se stalno razvija; aktualna podjela i pripadajuće obveze navedene su na drugom mjestu. Ovdje je bitan mehanizam: svaki alat dobiva mjesto u podjeli prema funkciji i utjecaju, tako da postane jasno koji alati zahtijevaju pažnju, a koji ne.
Zdravstvene ustanove ne grade od nule. Već postoje povjerenstva za provjeru, sustavi kvalitete, službenici za zaštitu podataka i unutarnji revizorski postupci. Pristup upravljanju AI-em koji je odvojen od toga postaje dodatni sloj koji nitko ne održava. Pristup koji se uklapa u postojeću strukturu postaje dio onoga što se već događa: isto povjerenstvo koje ocjenjuje novi hulpmiddel ocjenjuje i novi AI-alat; isti registar rizika dobiva rubriku za AI uz rubrike koje već postoje. Za to nije potreban novi uređaj, nego okvir koji odgovara onome što ustanova već radi.
Upravni odbor, nadzorno tijelo ili inspekcija želi vidjeti što se događa, a ne pretpostaviti da je pod kontrolom. Dokazivost znači da postoji aktualan pregled toga koji se AI-alati koriste, tko ih koristi, koja razina rizika pripada svakom od njih i koji su dogovori oko toga sklopljeni. Taj pregled nije jednokratan dokument. Zdravstvene ustanove neprestano mijenjaju sustave, a osoblje nosi alate s jednog odjela na drugi. Skup pravila upravljanja koji to prati koristan je u trenutku kada se traži odgovornost, a ne samo u trenutku kada je izrađen.
Kombinacija stroge postojeće provjere i brzo rastuće neformalne upotrebe nije jedinstvena za zdravstvo, iako ovdje dobiva oštriji naboj zbog pacijenta koji stoji na kraju lanca. Ustanove koje želi vidjeti kako se slična pitanja uređuju u drugom kontekstu mogu pogledati kako AI upravljanje u obrazovanju postupa sa sličnom napetošću između dužne skrbi i praktične upotrebe, na način na koji AI upravljanje u poslovnim uslugama čuva poverljivost i interes klijenta, ili na to kako AI upravljanje u proizvodnoj industriji postupa sa sustavima koji izravno zadiru u fizički proces.
Čim je jasno koji se AI-alati koriste i pod kojom razinom rizika spadaju, ostaje drugo pitanje: što ta uporaba znači za sam rad. Inventarizacija upravljanja pokazuje što se koristi, a ne koliko se vremena time oslobađa ili koji dio zadatka zapravo može biti preuzet. To pitanje leži izvan upravljanja i unutar radne analize (werkscan) FTE TO AI, koja po zadatku izračunava koji dio posla može preuzeti AI. Za zdravstvenu ustanovu koja prvo želi pregled onoga što se koristi, a potom želi znati što ta uporaba znači za raspoređivanje osoblja, to drugo pitanje logično slijedi na prvo.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.