Im Gesundheitswesen unterscheidet sich das Verhältnis zwischen dem, was genehmigt wird, und dem, was tatsächlich genutzt wird, von den meisten anderen Branchen. Es gibt bereits ein dichtes System der Prüfung: Regelungen für Medizinprodukte, Qualitätsrahmen, medizinisch-ethische Prüfungskommissionen, Datenschutzbeauftragte. Dieses System ist rund um physische Geräte, Arzneimittel und Behandlungsprotokolle aufgebaut. KI-Anwendungen schlüpfen dort oft dazwischen durch, weil sie nicht als Hilfsmittel eingekauft, sondern als Hilfsmittel genutzt werden. Ein Sprachmodell, das in einer Patientenakte mitliest, ein Transkriptionstool während einer Konsultation, ein Algorithmus, der die Triage unterstützt: Keine dieser Anwendungen muss den bestehenden Prüfweg durchlaufen haben, um trotzdem täglich genutzt zu werden.
Hinzu kommt, dass die Interessen im Gesundheitswesen schwerer wiegen als in vielen anderen Branchen. Es geht nicht nur um die Betriebsführung, sondern um Patientensicherheit, medizinisch-ethische Verantwortung und das Vertrauen der Patienten darauf, dass mit ihren Daten kontrolliert umgegangen wird. Das macht die Frage "was läuft hier eigentlich" eindringlicher als anderswo, und zugleich schwerer zu beantworten, weil Gesundheitsfachkräfte unter Zeitdruck arbeiten und ein Tool, das hilft, nicht schnell gemeldet wird, wenn sich das Melden wie ein Umweg anfühlt.
Die IT-Abteilung einer Gesundheitseinrichtung hat eine Liste genehmigter Systeme. Diese Liste ist ein Ausgangspunkt, nicht die Realität. Ein Arzt, der ein Sprachmodell nutzt, um einen Entlassungsbrief im Entwurf zu formulieren, eine Pflegekraft, die eine App zu Medikamenteninteraktionen konsultiert, ein Sekretariat, das Spracherkennung außerhalb des offiziellen Aktensystems einsetzt: Diese Art von Nutzung entsteht, weil sie Arbeit erleichtert, nicht weil sie beantragt wurde. Niemand wollte das verschweigen. Es wurde einfach nie danach gefragt, und wer es doch tut, muss dies tun können, ohne dass eine Sanktion droht. Nur dann kommt eine ehrliche Antwort zustande, und nur mit einer ehrlichen Antwort kann eine Einrichtung wissen, wo die Risiken tatsächlich liegen.
Auf die Bestandsaufnahme folgt die Klassifizierung: welche Rolle eine KI-Anwendung erfüllt und welche Risikostufe dazu gehört. Im Gesundheitswesen ist diese Unterscheidung scharf. Ein Tool, das Notizen für den Eigengebrauch einer Pflegekraft zusammenfasst, trägt ein anderes Gewicht als ein System, das in eine Diagnose oder in eine Entscheidung über Behandlungskapazität einfließt. Die Klassifizierung selbst wird durch Regelungen bestimmt, die außerhalb dieser Seite liegen und sich fortlaufend weiterentwickeln; die aktuelle Einteilung und die damit verbundenen Pflichten stehen an anderer Stelle. Was hier zählt, ist der Mechanismus: Jede Anwendung erhält einen Platz in einer Einteilung nach Funktion und Wirkung, sodass klar wird, welche Anwendungen Aufmerksamkeit erfordern und welche nicht.
Gesundheitseinrichtungen bauen nicht von null auf. Es gibt bereits Prüfungskommissionen, Qualitätssysteme, Datenschutzbeauftragte und interne Auditwege. Ein Governance-Ansatz für KI, der davon losgelöst ist, wird zu einer zusätzlichen Ebene, die niemand pflegt. Ein Ansatz, der an die bestehende Struktur anschließt, wird Teil dessen, was bereits geschieht: Dieselbe Kommission, die ein neues Hilfsmittel beurteilt, beurteilt auch eine neue KI-Anwendung; dasselbe Risikoregister erhält eine Rubrik für KI neben den bereits bestehenden Rubriken. Das erfordert kein neues Instrument, sondern einen Rahmen, der zu dem passt, was die Einrichtung bereits tut.
Ein Vorstand, ein Aufsichtsorgan oder eine Inspektion möchte sehen können, was vor sich geht, nicht annehmen, dass es unter Kontrolle ist. Nachweisbarkeit bedeutet, dass ein aktueller Überblick besteht, welche KI-Anwendungen im Einsatz sind, wer sie nutzt, welche Risikostufe damit verbunden ist und welche Vereinbarungen dazu getroffen wurden. Dieser Überblick ist kein einmaliges Dokument. Gesundheitseinrichtungen wechseln fortlaufend Systeme, und Personal nimmt Tools von einer Abteilung in die andere mit. Ein Governance-Set, das dies festhält, ist nutzbar in dem Moment, in dem Rechenschaft gefordert wird, und nicht nur in dem Moment, in dem es erstellt wurde.
Die Kombination aus strenger bestehender Prüfung und schnell wachsender informeller Nutzung ist nicht einzigartig für das Gesundheitswesen, wenngleich sie hier durch den Patienten am Ende der Kette eine schärfere Bedeutung erhält. Einrichtungen, die sehen möchten, wie vergleichbare Fragestellungen in einem anderen Kontext angegangen werden, können sich ansehen, wie AI-Governance im Bildungswesen mit einer vergleichbaren Spannung zwischen Fürsorgepflicht und praktischer Nutzung umgeht, wie AI-Governance im Dienstleistungssektor Vertraulichkeit und Mandanteninteresse wahrt, oder wie AI-Governance in der verarbeitenden Industrie mit Systemen umgeht, die direkt in einen physischen Prozess eingreifen.
Sobald klar ist, welche KI-Anwendungen im Einsatz sind und unter welche Risikostufe sie fallen, bleibt eine andere Frage offen: was diese Nutzung für die Arbeit selbst bedeutet. Eine Governance-Bestandsaufnahme zeigt, was läuft, nicht wie viel Zeit dadurch freigesetzt wird oder welcher Teil einer Aufgabe tatsächlich übernommen werden kann. Diese Frage liegt außerhalb der Governance und innerhalb des Werkscans von FTE TO AI, der pro Aufgabe berechnet, welcher Teil der Arbeit von KI übernommen werden kann. Für eine Gesundheitseinrichtung, die zunächst einen Überblick darüber möchte, was genutzt wird, und danach wissen möchte, was diese Nutzung für den Personaleinsatz bedeutet, folgt diese zweite Frage logisch auf die erste.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.