Az egészségügyben a jóváhagyott és a tényleges használat közötti viszony másképp áll, mint a legtöbb szektorban. Már létezik egy sűrű ellenőrzési rendszer: az orvostechnikai eszközökre vonatkozó szabályozás, minőségi keretrendszerek, orvosi-etikai bizottságok, adatvédelmi felelősök. Ez a rendszer fizikai eszközökre, gyógyszerekre és kezelési protokollokra épült. Az AI-alkalmazások gyakran átcsúsznak ezen a rendszeren, mivel nem eszközként lettek beszerezve, hanem eszközként használják őket. Egy nyelvi modell, amely a betegdossziéban olvas, egy átírási eszköz egy konzultáció során, egy algoritmus, amely a triázsban segít: ezen alkalmazások közül egyiknek sem kellett átmennie a meglévő ellenőrzési útvonalon ahhoz, hogy naponta használják.
Ehhez társul, hogy az egészségügyben a téttudat súlyosabb, mint sok más szektorban. Nem csak a működésről van szó, hanem a betegbiztonságról, az orvosi-etikai felelősségről és a betegek bizalmáról, hogy azzal, ami az adataikkal történik, ellenőrzött módon bánnak. Ez élesebbé teszi a "mi is fut itt valójában" kérdést máshoz képest, és ugyanakkor nehezebbé teszi a válaszadást, mivel az egészségügyi szakemberek időnyomás alatt dolgoznak, és egy eszközt, amely segít, nem jelentenek gyorsan, ha a jelentés kerülőútnak érződik.
Egy egészségügyi intézmény informatikai osztályának van egy jóváhagyott rendszerekről szóló listája. Ez a lista kiindulópont, nem a valóság. Egy orvos, aki egy nyelvi modellt használ egy elbocsátási levél megfogalmazásához, egy nővér, aki egy alkalmazást konzultál gyógyszer-interakciókhoz, egy titkárság, amely hangfelismerést alkalmaz a hivatalos dossziérendszeren kívül: ilyen jellegű használat azért keletkezik, mert eredményt hoz, nem azért, mert kérték. Senki sem akarta ezt eltitkolni. Egyszerűen soha nem kérdezték meg, és aki mégis megkérdezi, annak úgy kell megtennie, hogy ne álljon szankció kilátásban. Csak így kapunk őszinte választ, és csak őszinte válasszal tudja egy intézmény felmérni, hol vannak valóban a kockázatok.
A feltérképezés után következik az osztályozás: milyen szerepet tölt be egy AI-alkalmazás, és milyen kockázati szint tartozik hozzá. Az egészségügyben ez a megkülönböztetés éles. Egy eszköz, amely feljegyzéseket foglal össze egy ellátó saját használatára, más súlyt visel, mint egy rendszer, amely egy diagnózisban vagy egy ellátási kapacitásról szóló döntésben közreműködik. Az osztályozást maga olyan szabályozás határozza meg, amely ezen az oldalon kívül esik, és amely folyamatosan fejlődik; az aktuális besorolás és a hozzá kapcsolódó kötelezettségek másutt találhatók. Amit itt fontos hangsúlyozni, az a mechanizmus: minden alkalmazás helyet kap egy funkció és hatás szerinti besorolásban, hogy világos legyen, mely alkalmazások igényelnek figyelmet, és melyek nem.
Az egészségügyi intézmények nem a nulláról építenek. Már vannak ellenőrzési bizottságok, minőségrendszerek, adatvédelmi felelősök és belső auditútvonalak. Egy AI-kormányzási megközelítés, amely ettől elszakadva áll, egy olyan extra réteggé válik, amelyet senki sem tart karban. Egy megközelítés, amely illeszkedik a meglévő struktúrához, a már zajló folyamatok részévé válik: ugyanaz a bizottság, amely egy új eszközt értékel, egy új AI-alkalmazást is értékel; ugyanaz a kockázati nyilvántartás kap egy rovatot az AI számára a már meglévő rovatok mellett. Ehhez nem egy új berendezés szükséges, hanem egy keretrendszer, amely illik ahhoz, amit az intézmény már csinál.
Egy igazgatótanács, egy felügyeleti szerv vagy egy felügyeleti hatóság látni akarja, mi zajlik, nem pedig feltételezni, hogy az irányítás alatt van. Az igazolhatóság azt jelenti, hogy létezik egy aktuális áttekintés arról, mely AI-alkalmazások vannak használatban, ki használja őket, milyen kockázati szint tartozik hozzájuk, és milyen megállapodások köttettek körülöttük. Ez az áttekintés nem egyszeri dokumentum. Az egészségügyi intézmények folyamatosan váltanak rendszereket, és a személyzet magával hozza az eszközöket egyik osztályról a másikra. Egy kormányzási készlet, amely ezt naprakészen tartja, hasznos abban a pillanatban, amikor számadást kérnek, nem csak akkor, amikor összeállították.
A szigorú meglévő ellenőrzés és a gyorsan növekvő informális használat kombinációja nem egyedi az egészségügyben, bár itt élesebb súlyt kap a lánc végén álló beteg miatt. Azok az intézmények, amelyek szeretnék látni, hogyan alakítanak ki hasonló kérdéseket más kontextusban, megnézhetik, hogyan kezeli az AI-kormányzás az oktatásban a gondozási kötelezettség és a gyakorlati használat közötti hasonló feszültséget, hogyan óvja az AI-kormányzás az üzleti szolgáltatásokban a titoktartást és az ügyfél érdekét, vagy hogyan kezeli az AI-kormányzás a feldolgozóiparban azokat a rendszereket, amelyek közvetlenül beavatkoznak egy fizikai folyamatba.
Mihelyt egyértelmű, mely AI-alkalmazások futnak és milyen kockázati szint alá tartoznak, egy másik kérdés megmarad: mit jelent ez a használat a munka szempontjából. Egy kormányzási feltérképezés megmutatja, mi fut, nem azt, mennyi időt szabadít fel, vagy mely feladatrész vehető át valójában. Ez a kérdés a kormányzáson kívül esik, és a FTE TO AI munkaszkenerének körébe tartozik, amely feladatonként számítja ki, hogy a munka mely része vehető át AI által. Egy egészségügyi intézmény számára, amely először áttekintést szeretne arról, mi van használatban, majd tudni akarja, mit jelent ez a használat a személyzet beosztására nézve, ez a második kérdés logikusan következik az elsőből.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.