Στην υγειονομική περίθαλψη, η σχέση μεταξύ αυτού που εγκρίνεται και αυτού που χρησιμοποιείται είναι διαφορετική από τους περισσότερους τομείς. Υπάρχει ήδη ένα πυκνό σύστημα ελέγχου: κανονισμοί ιατροτεχνολογικών προϊόντων, πλαίσια ποιότητας, επιτροπές ιατρικής δεοντολογίας, υπεύθυνοι προστασίας δεδομένων. Αυτό το σύστημα έχει χτιστεί γύρω από φυσικές συσκευές, φάρμακα και θεραπευτικά πρωτόκολλα. Οι εφαρμογές AI συχνά ξεφεύγουν από αυτό, επειδή δεν αγοράστηκαν ως βοηθητικό εργαλείο αλλά χρησιμοποιούνται ως βοηθητικό εργαλείο. Ένα γλωσσικό μοντέλο που παρακολουθεί έναν ιατρικό φάκελο ασθενή, ένα εργαλείο απομαγνητοφώνησης κατά τη διάρκεια μιας εξέτασης, ένας αλγόριθμος που υποστηρίζει τη διαλογή ασθενών: κανένα από αυτά δεν χρειάστηκε να περάσει από την υφιστάμενη διαδικασία ελέγχου για να χρησιμοποιείται καθημερινά.
Επιπλέον, τα διακυβευόμενα συμφέροντα στην υγειονομική περίθαλψη είναι βαρύτερα από ό,τι σε πολλούς άλλους τομείς. Δεν πρόκειται μόνο για τη λειτουργία της επιχείρησης, αλλά για την ασφάλεια των ασθενών, την ιατρική-δεοντολογική ευθύνη και την εμπιστοσύνη των ασθενών ότι ό,τι συμβαίνει με τα δεδομένα τους γίνεται με ελεγχόμενο τρόπο. Αυτό κάνει την ερώτηση «τι λειτουργεί εδώ στην πραγματικότητα» πιο πιεστική από αλλού, και ταυτόχρονα πιο δύσκολο να απαντηθεί, επειδή οι επαγγελματίες υγείας εργάζονται υπό πίεση χρόνου και ένα εργαλείο που βοηθάει δεν αναφέρεται εύκολα όταν η αναφορά αυτή μοιάζει με περιπλοκή.
Το τμήμα πληροφορικής ενός οργανισμού υγειονομικής περίθαλψης διαθέτει έναν κατάλογο εγκεκριμένων συστημάτων. Αυτός ο κατάλογος είναι ένα σημείο εκκίνησης, όχι η πραγματικότητα. Ένας γιατρός που χρησιμοποιεί ένα γλωσσικό μοντέλο για να συντάξει το προσχέδιο μιας επιστολής εξιτηρίου, μια νοσηλευτής που συμβουλεύεται μια εφαρμογή για αλληλεπιδράσεις φαρμάκων, μια γραμματεία που χρησιμοποιεί αναγνώριση φωνής εκτός του επίσημου συστήματος φακέλων: αυτού του είδους η χρήση προκύπτει επειδή αποδίδει στην εργασία, όχι επειδή ζητήθηκε. Κανείς δεν ήθελε να το αποκρύψει. Απλά δεν ζητήθηκε ποτέ, και όποιος το ζητά πρέπει να μπορεί να το κάνει χωρίς να διαφαίνεται κάποια κύρωση. Μόνο τότε προκύπτει μια ειδή απάντηση, και μόνο με μια ειδή απάντηση μπορεί ένας οργανισμός να γνωρίζει πού βρίσκονται πραγματικά οι κίνδυνοι.
Μετά την απογραφή ακολουθεί η ταξινόμηση: ποιον ρόλο εκτελεί μια εφαρμογή AI και ποιο επίπεδο κινδύνου αντιστοιχεί σε αυτόν. Στην υγειονομική περίθαλψη, αυτή η διάκριση είναι έντονη. Ένα εργαλείο που συνοψίζει σημειώσεις για ιδιωτική χρήση ενός επαγγελματία υγείας έχει διαφορετικό βάρος από ένα σύστημα που συνυπολογίζεται σε μια διάγνωση ή σε μια απόφαση σχετικά με τη δυναμικότητα θεραπείας. Η ίδια η ταξινόμηση καθορίζεται από κανονισμούς που δεν εμπίπτουν σε αυτή τη σελίδα και που εξελίσσονται συνεχώς· η τρέχουσα κατηγοριοποίηση και οι σχετικές υποχρεώσεις βρίσκονται αλλού. Αυτό που μετρά εδώ είναι ο μηχανισμός: κάθε εφαρμογή αποκτά μια θέση σε μια κατηγοριοποίηση κατά λειτουργία και αντίκτυπο, ώστε να γίνεται σαφές ποιες εφαρμογές απαιτούν προσοχή και ποιες όχι.
Οι οργανισμοί υγειονομικής περίθαλψης δεν ξεκινούν από το μηδέν. Υπάρχουν ήδη επιτροπές ελέγχου, συστήματα ποιότητας, υπεύθυνοι προστασίας δεδομένων και εσωτερικές διαδικασίες ελέγχου. Μια προσέγγιση διακυβέρνησης για την AI που δεν συνδέεται με αυτά γίνεται ένα επιπλέον επίπεδο που κανείς δεν συντηρεί. Μια προσέγγιση που συνδέεται με την υφιστάμενη δομή γίνεται μέρος αυτού που ήδη συμβαίνει: η ίδια επιτροπή που αξιολογεί ένα νέο βοηθητικό εργαλείο αξιολογεί επίσης μια νέα εφαρμογή AI· το ίδιο μητρώο κινδύνων αποκτά μια κατηγορία για την AI δίπλα στις κατηγορίες που υπάρχουν ήδη. Αυτό δεν απαιτεί μια νέα συσκευή, αλλά ένα πλαίσιο που ταιριάζει σε αυτό που ο οργανισμός κάνει ήδη.
Ένα διοικητικό συμβούλιο, ένα εποπτικό όργανο ή μια επιθεώρηση θέλει να μπορεί να δει τι συμβαίνει, όχι να υποθέτει ότι είναι υπό έλεγχο. Αποδεικνυόμενη ευθύνη σημαίνει ότι υπάρχει μια επικαιροποιημένη επισκόπηση σχετικά με ποιες εφαρμογές AI χρησιμοποιούνται, ποιος τις χρησιμοποιεί, ποιο επίπεδο κινδύνου αντιστοιχεί σε αυτές και ποιες συμφωνίες έχουν γίνει σχετικά με αυτές. Αυτή η επισκόπηση δεν είναι ένα εφάπαξ έγγραφο. Οι οργανισμοί υγειονομικής περίθαλψης αλλάζουν συνεχώς συστήματα, και το προσωπικό μεταφέρει εργαλεία από ένα τμήμα σε άλλο. Ένα σύνολο διακυβέρνησης που παρακολουθεί αυτό είναι χρήσιμο τη στιγμή που ζητείται λογοδοσία, και όχι μόνο τη στιγμή που καταρτίζεται.
Ο συνδυασμός αυστηρού υφιστάμενου ελέγχου και ταχέως αναπτυσσόμενης άτυπης χρήσης δεν είναι μοναδικός στην υγειονομική περίθαλψη, ωστόσο εδώ αποκτά μεγαλύτερο βάρος λόγω του ασθενή που βρίσκεται στο τέλος της αλυσίδας. Οργανισμοί που θέλουν να δουν πώς τακτοποιούνται παρόμοια ζητήματα σε άλλο πλαίσιο μπορούν να δουν πώς η AI-διακυβέρνηση στην εκπαίδευση διαχειρίζεται μια παρόμοια τάση μεταξύ καθήκοντος φροντίδας και πρακτικής χρήσης, τον τρόπο με τον οποίο η AI-διακυβέρνηση στις επιχειρηματικές υπηρεσίες διαφυλάσσει την εμπιστευτικότητα και το συμφέρον του πελάτη, ή πώς η AI-διακυβέρνηση στη μεταποίηση διαχειρίζεται συστήματα που παρεμβαίνουν άμεσα σε μια φυσική διαδικασία.
Μόλις γίνει σαφές ποιες εφαρμογές AI λειτουργούν και σε ποιο επίπεδο κινδύνου εμπίπτουν, παραμένει ένα άλλο ερώτημα: τι σημαίνει αυτή η χρήση για την ίδια την εργασία. Μια απογραφή διακυβέρνησης δείχνει τι λειτουργεί, όχι πόσο χρόνο απελευθερώνει αυτό ή ποιο μέρος μιας εργασίας μπορεί πράγματι να αναληφθεί. Αυτό το ερώτημα βρίσκεται εκτός διακυβέρνησης και εντός της σκανάρισης εργασίας (werkscan) της FTE TO AI, η οποία υπολογίζει ανά εργασία ποιο μέρος της δουλειάς μπορεί να αναληφθεί από την AI. Για έναν οργανισμό υγειονομικής περίθαλψης που θέλει πρώτα μια επισκόπηση αυτού που χρησιμοποιείται, και έπειτα θέλει να γνωρίζει τι σημαίνει αυτή η χρήση για την αξιοποίηση του προσωπικού, αυτό το δεύτερο ερώτημα ακολουθεί λογικά το πρώτο.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.