В здравеопазването съотношението между това, което е одобрено, и това, което се използва, е различно от повечето сектори. Вече съществува плътна система за проверка: регулация на медицинските изделия, рамки за качество, медицинско-етични комисии за оценка, длъжностни лица по защита на данните. Тази система е изградена около физически апарати, лекарства и протоколи за лечение. AI-приложенията често се промъкват между тях, защото не са закупени като помощно средство, но се използват като такова. Езиков модел, който съпровожда четенето на пациентско досие, инструмент за транскрипция по време на консултация, алгоритъм, който подпомага триажа: никое от тези приложения не е трябвало да премине през съществуващия път на проверка, за да се използва въпреки това ежедневно.
Към това се добавя фактът, че интересите в здравеопазването тежат повече, отколкото в много други сектори. Става дума не само за управление на бизнеса, но и за безопасност на пациентите, медицинско-етична отговорност и доверието на пациентите, че това, което се случва с техните данни, протича контролирано. Това прави въпросът "какво всъщност работи тук" по-настойчив, отколкото на друго място, и същевременно по-труден за отговор, защото здравните специалисти работят под времеви натиск и инструмент, който помага, не бива бързо докладван, ако докладването се възприема като заобиколен път.
IT-отделът на здравна организация има списък с одобрени системи. Този списък е начална точка, а не действителността. Лекар, който използва езиков модел за черновиране на епикриза, медицинска сестра, която се консултира с приложение за лекарствени взаимодействия, секретариат, който прилага разпознаване на глас извън официалната документна система: този вид използване се появява, защото носи резултат в работата, а не защото е поискано. Никой не е искал да го скрие. Просто никога не е било попитано, а онзи, който попита, трябва да може да го направи без да предстои санкция. Само тогава се получава честен отговор, и само с честен отговор организацията може да разбере къде всъщност се крият рисковете.
След инвентаризацията следва класификация: каква роля изпълнява дадено AI-приложение и какво ниво на риск съответствува на нея. В здравеопазването това разграничение е рязко. Инструмент, който обобщава бележки за собствено ползване на здравен работник, носи различна тежест от система, която участва в поставянето на диагноза или в решение относно капацитета за лечение. Самата класификация се определя от регулация, която е извън обхвата на тази страница и която постоянно се развива; актуалната класификация и свързаните с нея задължения се намират на друго място. Тук важи механизмът: всяко приложение получава място в класификация по функция и въздействие, така че да стане ясно кои приложения изискват внимание и кои не.
Здравните организации не строят от нулата. Вече съществуват комисии за оценка, системи за качество, длъжностни лица по защита на данните и вътрешни одитни маршрути. Подход за управление на AI, който стои изолирано от тях, се превръща в допълнителен слой, който никой не поддържа. Подход, който се обвързва със съществуващата структура, става част от вече протичащото: същата комисия, която оценява ново медицинско изделие, оценява и ново AI-приложение; същият регистър на риска получава рубрика за AI до рубриките, които вече съществуват. Това не изисква нов апарат, а рамка, която се вписва в това, което организацията вече прави.
Съвет на директорите, надзорен орган или инспекция иска да вижда какво се случва, а не да предполага, че е под контрол. Доказуемостта означава, че съществува актуален преглед на кои AI-приложения се използват, кой ги използва, какво ниво на риск съответствува и какви договорености са направени около тях. Този преглед не е еднократен документ. Здравните организации непрекъснато сменят системи, а персоналът пренася инструменти от едно отделение в друго. Набор от управленски мерки, който следи това, е използваем в момента, когато се изисква отчетност, а не само в момента на съставянето му.
Съчетанието от строга съществуваща проверка и бързо нарастващо неформално използване не е уникално за здравеопазването, макар че тук получава по-остра тежест поради пациента, който стои в края на верицата. Организации, които искат да видят как подобни въпроси се уреждат в друг контекст, могат да разгледат как AI-управлението в образованието се справя с подобно напрежение между дълг на грижа и практическо използване, начина, по който AI-управлението в бизнес услугите пази поверителността и интереса на клиента, или как AI-управлението в производствената индустрия се справя със системи, които директно се намесват във физически процес.
Веднъж щом стане ясно кои AI-приложения работят и под какво ниво на риск попадат, остава друг въпрос: какво означава това използване за самата работа. Инвентаризацията в рамките на управлението показва какво работи, а не колко време освобождава то или каква част от задачата действително може да бъде поета. Този въпрос стои извън управлението и в обхвата на работния анализ на FTE TO AI, който за всяка задача изчислява каква част от работата може да бъде поета от AI. За здравна организация, която първо иска преглед на това, какво се използва, а след това иска да знае какво означава това използване за разпределението на персонала, вторият въпрос логично следва първия.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.