Die Frage, welche Anwendungen außerhalb des Anwendungsbereichs fallen, klingt wie eine Frage nach einer Liste. Das ist sie nicht. Ob etwas innerhalb oder außerhalb des Anwendungsbereichs fällt, ist eine Einordnung, die davon abhängt, was eine Anwendung tut, in welchem Kontext, und für wen. Dieselbe Technologie kann bei der einen Anwendung außer Betracht bleiben und bei der anderen unter voller Aufmerksamkeit stehen. Eine feste Liste ausgeschlossener Anwendungen gibt es daher nicht — wohl aber eine Reihe von Faktoren, die die Einordnung bestimmen.
Der erste Faktor ist die Funktion der Anwendung: Was entscheidet oder berät das System, und für wen hat das Folgen. Ein Tool, das internen Text umschreibt, liegt anders als ein Tool, das mitentscheidet über einen Antrag, eine Bewerbung oder eine Schadensmeldung. Der zweite Faktor ist das Risikoniveau, das an diese Funktion gebunden ist: Je größer die Folgen für Menschen sind, desto eher verschiebt sich eine Anwendung in Richtung des schwereren Teils des Spektrums. Der dritte Faktor ist die Rolle der Organisation selbst: Wer ein System lediglich nutzt, wird anders beurteilt als wer es anpasst, weitertrainiert oder aus Komponenten anderer zusammenstellt. Was diese Rollenverteilung genau bedeutet und wann sie sich verschiebt, steht auf den Seiten über die Unterscheidung zwischen Anbieter und Nutzer eines KI-Systems und über den Zeitpunkt, an dem eine Nutzerrolle in eine andere Verantwortung übergeht.
Ein vierter Faktor ist technischer Natur, aber juristisch relevant: Was eine Organisation selbst an einem bestehenden Modell ändert, verändert manchmal die Position dieser Organisation im Gesamtbild. Ein Modell, das unverändert eingekauft wird, fällt anders ins Bild als ein Modell, das auf eigenen Daten feinabgestimmt oder in einen eigenen Prozess eingebettet wird. Diese Grenze — wann eine Anpassung eine Rollenänderung mit sich bringt — wird auf der Seite über was sich ändert, wenn ein Modell selbst angepasst wird behandelt.
Weil die Einordnung von diesen Faktoren abhängt, ist der Anwendungsbereich kein feststehendes Merkmal eines Tools, sondern ein Ergebnis, das sich ändern kann. Ein Chatbot, der als interne Schreibhilfe begann, kann, sobald er auch Kundenfragen beantwortet, die zu einer Entscheidung führen, in einen anderen Teil des Spektrums geraten. Ein Modell, das als fertiges Produkt eingekauft wurde, kann nach Anpassung an eigene Daten eine andere Rolle für die Organisation mit sich bringen. Eine Anwendung, die heute als Low-Impact gilt, kann morgen schwerer wiegen, weil sich der Kontext, in dem sie eingesetzt wird, verändert hat — ein anderes Team, eine andere Entscheidung, eine andere Gruppe von Menschen, die das Ergebnis betrifft.
Genau deshalb reicht eine einmalige Einordnung nicht aus. Eine Klassifikation, die zum Zeitpunkt der Einführung festgelegt wurde, sagt nichts darüber aus, was ein Tool ein Jahr später tut. Was heute unter den Anwendungsbereich fallen muss und was für später geplant werden kann, ist somit selbst eine Frage, die von der aktuellen Situation abhängt — ausgearbeitet auf der Seite über die Reihenfolge zwischen dem, was jetzt Aufmerksamkeit erfordert, und dem, was später folgen kann.
Die Einordnung innerhalb und außerhalb des Anwendungsbereichs wird durch ein praktisches Problem erschwert: Die offizielle Liste der eingekauften oder genehmigten Tools ist nicht dieselbe Liste wie die Tools, die tatsächlich genutzt werden. Teams nehmen KI-Funktionalität in Gebrauch, ohne sie über einen Antragsprozess laufen zu lassen — nicht aus Widerwillen, sondern weil sie leicht zugänglich ist und ein Problem löst. Diese Schatten-KI ist genau der Teil, der eine Einordnung innerhalb oder außerhalb des Anwendungsbereichs unmöglich macht, solange niemand weiß, dass die Anwendung existiert.
Wer dieses Bild vervollständigen möchte, muss danach fragen — und zwar so, dass sich die Frage nicht wie ein verdeckter Vorwurf anfühlt. Sobald ein Mitarbeiter vermutet, dass eine ehrliche Antwort zu einer Sanktion führt, bleibt die Antwort aus und das Tool bleibt unter dem Radar. Eine Bestandsaufnahme, die auf Abrechnung aufgebaut ist, liefert also per Definition ein unvollständiges Bild — und ein unvollständiges Bild macht jede Einordnung im Anwendungsbereich vorläufig.
Weil sich der Anwendungsbereich verschieben kann, ist das Festhalten der Einordnung mindestens so wichtig wie die Einordnung selbst. Wer entschieden hat, dass eine Anwendung außerhalb des Anwendungsbereichs fiel, auf Grundlage welcher Informationen, und zu welchem Zeitpunkt — solche Fragen werden unbeantwortbar, sobald die Dokumentation fehlt. Wie eine Organisation diese Art von Entscheidung einrichtbar und nachvollziehbar macht, steht auf der Seite über eine Entscheidungsliste, die Oversight-Entscheidungen nachvollziehbar macht, und wie diese Einordnung erkennbar in dem Dokument wiederkehrt, das Mitarbeiter tatsächlich zu Rate ziehen, auf der Seite über eine KI-Richtlinie, die anschließt an das, was Menschen wirklich tun.
Die Einordnungsfrage — was innerhalb des Anwendungsbereichs fällt und was nicht — betrifft Risiko und Verantwortung, nicht das, was eine Anwendung für die Arbeit selbst bedeutet. Diese zweite Frage, was eine Aufgabe genau an KI übergeben kann, ist eine eigene Rechnung. Der Werkscan von FTE TO AI berechnet je Aufgabe, welcher Teil der Arbeit übernommen werden kann, unabhängig von der Frage, wie diese Anwendung in die Governance-Einordnung fällt.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.