Kennisbank

Ein Anbieter setzte KI in Ihrem Produkt ein, ohne es zu sagen

Wie das entsteht

Ein Anbieter fügt eine Funktion hinzu, die unter der Motorhaube auf einem Sprachmodell oder einer Drittanbieter-API läuft. Für den Anbieter ist es ein Produktupdate, kein Ereignis, das eine Meldung verdient. Die Release Notes erwähnen einen neuen Button, nicht die Technologie dahinter. Ihre Organisation nutzt die Software bereits, der Vertrag ist auf Basis der alten Funktionalität unterzeichnet, und die Änderung kommt nicht über Einkauf oder Security herein — die sehen nur, was bei einer Neuanschaffung passiert, nicht, was ein bestehendes Produkt still dazubekommt.

Das Muster ist dasselbe wie bei einer Browsererweiterung mit Zugriff auf Ihre E-Mail: Der Zugriff und die Funktion bestehen bereits, bevor jemand sie beurteilt hat. Bei einem Anbieter ist der Abstand nur größer — Sie können nicht in den Quellcode schauen und müssen sich auf das verlassen, was der Anbieter sagt, oder nicht sagt.

Warum es nicht von selbst verschwindet

Es gibt keinen Moment, in dem sich das meldet. Ein Mitarbeiter nutzt die neue Funktion, weil sie praktisch ist, nicht weil er eine KI-Komponente erkennt. Der Anbieter hat keinen Anreiz, dies aktiv zu melden, solange niemand danach fragt: Es bringt keinen Umsatz und kann durchaus Fragen aufwerfen. Und die Wahrscheinlichkeit, dass Sie es selbst entdecken, ist gering, sofern kein Vorfall eintritt oder eine periodische Kontrolle es auffällt.

Damit ähnelt dies einem internen Pilotprojekt, das hängen geblieben ist: Genau wie bei einem Testaufbau, der nie abgeschaltet wurde, fehlt es nicht an böser Absicht, sondern an einem Moment, in dem jemand die Frage stellt. Bei einem Anbieter kommt noch hinzu, dass Sie von dessen Bereitschaft abhängig sind, zu antworten.

Was Sie tun können

Der Ausgangspunkt ist nicht, den Vertrag beim ersten Zweifel juristisch durchzusetzen, sondern erst zu wissen, was tatsächlich vorliegt. Das beginnt damit, dem Anbieter Fragen zu stellen: Welche Teile des Produkts nutzen KI, welche Daten fließen dorthin, und hat sich das geändert, seit der Vertrag unterzeichnet wurde. Anbieter, die ohne Konsequenzen antworten können, tun dies eher wahrheitsgemäß als Anbieter, die vermuten, dass eine ehrliche Antwort den Vertrag gefährdet.

Dieselbe Logik gilt innerhalb der Organisation: Mitarbeiter, die ein Tool nutzen, von dem niemand weiß, dass es KI enthält, melden das erst, wenn Melden keine Strafe nach sich zieht. Wie Sie das organisieren, ist beschrieben bei Mitarbeitern, die ein Tool nutzen, das niemand genehmigt hat. Für einen Anbieter funktioniert das Prinzip gleich: Eine Frage ohne Verdächtigung erhält eine andere Antwort als eine Frage, die als Vorstufe zu Sanktionen gelesen wird.

Sobald klar ist, was der Anbieter hinzugefügt hat, ist die Folgefrage nicht juristisch, sondern funktional: Welche Rolle spielt diese KI-Komponente im Prozess, wie hoch ist das Risikoniveau, und was muss darüber festgelegt sein. Dieselben Fragen stellen Sie bei jeder KI-Anwendung, die Sie selbst einsetzen, egal ob sie über einen Anbieter oder über einen Mitarbeiter, der ein kostenloses Tool nutzt, hereinkommt — siehe auch Unternehmensdaten, die in einem kostenlosen Chatfenster landen. Was Sie pro Anwendung festlegen, hängt davon ab, was diese Anwendung tut und mit welchen Daten, nicht davon, woher diese Anwendung stammt. Eine Übersicht dessen, was dabei relevant ist, finden Sie unter was Sie pro Anwendung festlegen müssen.

Ein Anbieter, der KI ohne Meldung hinzufügt, sollte also nicht separat als Vorfall behandelt werden, sondern in die Inventur einfließen, die Sie ohnehin für den Rest der Organisation aufbauen. Wie diese Inventur in der Praxis aufgebaut wird — einschließlich der Frage, wie Sie Anbieter darin einordnen — ist beschrieben unter wie Sie eine KI-Inventur aufbauen.

Was das nicht ist

Dies ist kein Anlass für eine juristische Offensive gegen jeden Anbieter, der etwas nicht gemeldet hat. Die Feststellung eines Vertragsbruchs ist eine andere Frage als die Feststellung eines Risikos, und beide gehen nicht automatisch Hand in Hand: Ein Anbieter kann etwas nicht gemeldet haben, ohne dass die Anwendung ein hohes Risiko mit sich bringt, und umgekehrt. Der erste Schritt ist die Risikobeurteilung, nicht die Schuldfrage. Wer mit Sanktionen beginnt, erhält von Anbietern künftig weniger Informationen, nicht mehr.

Die nächste Frage

Sobald klar ist, welche KI-Komponenten über Anbieter, Mitarbeiter oder eigene Initiativen innerhalb der Organisation aktiv sind, entsteht eine andere Frage: Was bedeutet das für die Arbeit selbst. Nicht jede KI-Anwendung, die hereinkommt, tut auch tatsächlich etwas Nützliches mit dem Prozess, in dem sie sich befindet — und nicht jeder Prozess, der jetzt manuell abläuft, ist per Definition besser ohne KI. Der Werkscan von FTE TO AI berechnet pro Aufgabe, welcher Teil der Arbeit vernünftigerweise von KI übernommen werden kann, unabhängig von der Frage, wie diese KI hereingekommen ist. Das macht aus der Inventur, die Sie jetzt aufbauen, nicht nur ein Governance-Instrument, sondern auch einen Ausgangspunkt, um zu bestimmen, wo KI tatsächlich einen Unterschied macht.