Ein Eskalationspfad, den niemand nutzt, existiert nicht

Es liegt oft schon ein Dokument mit dem Titel Eskalationsverfahren vor. Darin steht ein Schema mit Pfeilen, eine Reihe von Namen und ein paar Schwellenwerte. Das Problem ist nicht, dass das Dokument fehlt. Das Problem ist, dass niemand es öffnet, wenn es tatsächlich gebraucht wird.

Das geschieht nicht aus Unwillen. Es geschieht, weil bereits ein Pfad existiert, entlang dessen Probleme nach oben kommen: der Linienmanager, der den IT-Vorfall meldet, der Compliance-Officer, der mit dem Business spricht, der Teamleiter, der sein Problem bei seinem eigenen Vorgesetzten ablegt. Dieser Pfad existiert, wird täglich genutzt und funktioniert — für das, wofür er gedacht ist. Ein neuer, speziell für KI-Vorfälle eingerichteter Eskalationspfad ist dann eine zweite Route neben einer bereits bestehenden Route. Im Zweifel wählt jeder die Route, die er kennt.

Warum der zweite Prozess verliert

Ein Eskalationspfad, der losgelöst von der bestehenden Struktur besteht, verlangt vom Mitarbeitenden, dass er erst erkennt, dass es sich um einen KI-Vorfall handelt, sich dann daran erinnert, dass dafür ein anderer Prozess gilt, und sich anschließend die Mühe macht, diesem Prozess zu folgen, statt einfach seinen Vorgesetzten anzurufen. Jeder Schritt in dieser Kette ist ein Moment, an dem der Pfad verlassen wird.

Dazu kommt ein zweiter Grund, weniger sichtbar, aber ebenso ausschlaggebend: Wer eine Abweichung meldet, möchte nicht sofort auf dem Vorfallsformular der Organisation landen. Wenn Eskalieren gleichbedeutend mit Abrechnung ist, wird nicht eskaliert. Das gilt für einen Mitarbeitenden, der ein KI-Tool nutzte, das nicht genehmigt war, und es gilt für eine Führungskraft, die ein Modell laufen ließ, ohne dass jemand davon wusste. Ein Eskalationspfad, der tatsächlich genutzt wird, ist ein Pfad, bei dem die erste Meldung kein Urteil ist, sondern ein Signal.

Was in dem Dokument stehen muss

Ein Eskalationspfad, der funktioniert, beschreibt drei Dinge, und nicht mehr als das.

Wer etwas wahrnimmt — ein Mitarbeitender, ein Kunde, eine externe Partei — muss wissen, an wen er sich wenden kann, ohne dass er erst herausfinden muss, ob es sich um eine KI-Angelegenheit oder eine gewöhnliche operative Angelegenheit handelt. Der Pfad schließt an die bereits bestehende Meldestelle an, mit einer zusätzlichen Verzweigung für den Moment, in dem sich herausstellt, dass KI beteiligt ist.

Wer die Entscheidung trifft — ob etwas gestoppt, angepasst oder einer Aufsichtsbehörde gemeldet wird — muss festgelegt sein, bevor der Vorfall eintritt. Nicht als abstrakte Funktionsbezeichnung, sondern als Name, mit einem Vertreter. Eine Eskalation, die an einem leeren Mandat scheitert, ist keine Eskalation.

Was anschließend mit dem Melder geschieht, muss klar sein. Wenn ein zweiter Prozess nur aus einer Meldepflicht besteht, ohne Klarheit über die Konsequenzen für den Melder, wird er gemieden. Genau dort verbirgt sich Schatten-KI: nicht in den Systemen, die die IT kennt, sondern in den Tools, die jemand zu nutzen begonnen hat, ohne dies zu melden, weil Melden sich wie ein Geständnis anfühlte.

Anknüpfen statt hinzufügen

Die Lösung ist nicht ein dickeres Dokument. Es ist ein Eskalationspfad, der die bereits bestehende Struktur nutzt — die Meldestelle, die Eskalationslinie, das Risikokomitee — und dort eine KI-spezifische Verzweigung an den Punkten hinzufügt, an denen es einen Unterschied macht. Wie dieses Anknüpfen genau funktioniert, auch für die breitere Richtlinie und die Beschlussliste des Aufsichtsgremiums, ist beschrieben in wie Sie eine KI-Richtlinie erhalten, die gelesen wird, weil sie in das Bestehende eingebettet ist und in wie Sie eine Oversight-Beschlussliste erhalten, die an den bestehenden Entscheidungsrhythmus anknüpft. Beide Dokumente betreffen denselben Punkt: ein Prozess, der neben der Organisation steht, wird ignoriert; ein Prozess, der darin eingebettet ist, wird befolgt.

Dieser Grundsatz gilt nicht nur für die Eskalation. Er gilt für die gesamte Governance-Struktur rund um KI. Wer wissen möchte, wie das im größeren Zusammenhang aussieht — wie die Risikoklassifizierung an bestehende Risikokategorien anknüpft, wie das Anknüpfen an die bestehende Risikostruktur verhindert, dass eine parallele Bürokratie entsteht — findet dort das zugrunde liegende Prinzip. Dasselbe gilt für die Berichterstattung nach oben: ein einseitiger Board-Bericht funktioniert nur, wenn die darin enthaltenen Eskalationen auch tatsächlich gemeldet wurden. Und ohne fortlaufende Beobachtung dessen, was sich verändert, veraltet jeder Eskalationspfad innerhalb eines Jahres; was das in der Praxis bedeutet, wird erläutert unter Monitoring, das etwas bringt.

Die Inventur als Ausgangspunkt

Ein Eskalationspfad lässt sich erst schreiben, wenn bekannt ist, was überhaupt eskalieren kann. Solange niemand weiß, welche KI in der Organisation läuft — einschließlich dessen, was nicht genehmigt wurde —, bleibt das Dokument theoretisch. Der Responsible AI Scan beginnt daher nicht beim Eskalationspfad, sondern bei der Inventur: was läuft, wer nutzt es, und welches Risikoniveau dazu passt. Erst auf dieser Grundlage lässt sich ein Eskalationspfad schreiben, der an das anknüpft, was bereits besteht, statt an das, was auf dem Papier bestehen sollte.

Von Eskalation zu Übernahme