În sănătate, raportul dintre ce este aprobat și ce este utilizat efectiv este diferit față de majoritatea sectoarelor. Există deja un sistem dens de verificare: reglementări privind dispozitivele medicale, cadre de calitate, comisii de etică medicală, responsabili cu protecția datelor. Acest sistem este construit în jurul dispozitivelor fizice, medicamentelor și protocoalelor de tratament. Aplicațiile AI scapă adesea printre plasele acestui sistem, pentru că nu sunt achiziționate ca dispozitiv, ci sunt folosite ca dispozitiv. Un model de limbaj care citește alături în dosarul unui pacient, un instrument de transcriere în timpul unei consultații, un algoritm care sprijină triajul: niciuna dintre aceste aplicații nu trebuie să fi trecut prin traseul de verificare existent pentru a fi totuși folosită zilnic.
La aceasta se adaugă faptul că interesele în sănătate cântăresc mai greu decât în multe alte sectoare. Nu este vorba doar despre activitatea operațională, ci despre siguranța pacientului, responsabilitatea medico-etică și încrederea pacienților că ceea ce se întâmplă cu datele lor se desfășoară în mod controlat. Acest lucru face ca întrebarea „ce rulează, de fapt, aici” să fie mai stringentă decât în altă parte și, în același timp, mai dificil de răspuns, pentru că profesioniștii din sănătate lucrează sub presiunea timpului, iar un instrument care ajută nu este raportat rapid dacă raportarea se simte ca un ocol.
Departamentul IT al unei instituții medicale are o listă de sisteme aprobate. Acea listă este un punct de pornire, nu realitatea. Un medic care folosește un model de limbaj pentru a formula o schiță a scrisorii de externare, o asistentă medicală care consultă o aplicație pentru interacțiuni medicamentoase, un secretariat care folosește recunoașterea vocală în afara sistemului oficial de dosare: acest tip de utilizare apare pentru că aduce rezultate în muncă, nu pentru că a fost solicitată oficial. Nimeni nu a vrut să ascundă acest lucru. Pur și simplu nu a fost întrebat niciodată, iar cine întreabă totuși trebuie să poată face asta fără riscul unei sancțiuni la orizont. Numai așa se obține un răspuns sincer, și numai cu un răspuns sincer o instituție poate afla unde se află de fapt riscurile.
După inventariere urmează clasificarea: ce rol îndeplinește o aplicație AI și ce nivel de risc îi corespunde. În sănătate, această distincție este acută. Un instrument care sintetizează notițe pentru uzul propriu al unui furnizor de îngrijiri medicale are o pondere diferită față de un sistem care contribuie la un diagnostic sau la o decizie privind capacitatea de tratament. Clasificarea în sine este determinată de reglementări care nu fac obiectul acestei pagini și care sunt în permanentă evoluție; clasificarea actuală și obligațiile corespunzătoare se găsesc în altă parte. Ce contează aici este mecanismul: fiecare aplicație primește un loc într-o clasificare pe funcție și impact, astfel încât să devină clar ce aplicații necesită atenție și ce aplicații nu.
Instituțiile medicale nu construiesc de la zero. Există deja comisii de verificare, sisteme de calitate, responsabili cu protecția datelor și trasee interne de audit. O abordare de guvernanță pentru AI care este separată de acestea devine un strat suplimentar pe care nimeni nu îl întreține. O abordare care se racordează la structura existentă devine parte din ceea ce se desfășoară deja: aceeași comisie care evaluează un nou dispozitiv evaluează și o nouă aplicație AI; același registru de riscuri primește o rubrică pentru AI alături de rubricile care există deja. Acest lucru nu necesită un dispozitiv nou, ci un cadru care se pliază pe ceea ce instituția face deja.
Un consiliu de administrație, un organism de supraveghere sau o inspecție dorește să poată vedea ce se petrece, nu să presupună că lucrurile sunt sub control. Demonstrabilitatea înseamnă că există o imagine de ansamblu actualizată privind ce aplicații AI sunt folosite, cine le folosește, ce nivel de risc le corespunde și ce acorduri au fost stabilite în jurul lor. Această imagine de ansamblu nu este un document unic. Instituțiile medicale își schimbă sistemele în permanență, iar personalul duce instrumente de la o secție la alta. Un set de guvernanță care ține evidența acestui lucru este util în momentul în care se cere responsabilitate, nu doar în momentul în care a fost întocmit.
Combinația dintre o verificare strictă existentă și o creștere rapidă a utilizării informale nu este unică pentru sănătate, chiar dacă aici dobândește o încărcătură mai acută din cauza pacientului care se află la finalul lanțului. Instituțiile care vor să vadă cum sunt gestionate probleme similare într-un alt context pot analiza cum abordează guvernanța AI în educație o tensiune similară între obligația de îngrijire și utilizarea practică, modul în care guvernanța AI în serviciile pentru afaceri protejează confidențialitatea și interesul clientului, sau cum guvernanța AI în industria producătoare gestionează sistemele care intervin direct într-un proces fizic.
În momentul în care este clar ce aplicații AI rulează și sub ce nivel de risc se încadrează, rămâne o altă întrebare: ce înseamnă acea utilizare pentru munca în sine. O inventariere de guvernanță arată ce rulează, nu cât timp eliberează acest lucru sau ce parte dintr-o sarcină poate fi de fapt preluată. Această întrebare se află în afara guvernanței și în cadrul scanării muncii realizate de FTE TO AI, care calculează per sarcină ce parte din muncă poate fi preluată de AI. Pentru o instituție medicală care dorește mai întâi o imagine de ansamblu asupra a ceea ce se folosește, și apoi vrea să știe ce înseamnă acea utilizare pentru alocarea personalului, această a doua întrebare urmează logic după prima.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.