Die Frage, ob eine KI-Anwendung innerhalb Ihrer Organisation als hohes Risiko gilt, ist keine Frage, die Sie einmalig beantworten und dann abhaken. Es ist das Ergebnis mehrerer Faktoren, die zusammen bestimmen, wie schwer eine Anwendung wiegt. Ändert sich einer dieser Faktoren, ändert sich möglicherweise auch die Einstufung. Das macht Risikoklassifizierung weniger zu einer Frage des Ausfüllens und mehr zu einer Frage des Nachhaltens.
Diese Seite beschreibt den Mechanismus hinter dieser Einstufung: wovon sie abhängt und was passiert, wenn sich die Situation ändert. Die aktuellen gesetzlichen Definitionen und Schwellenwerte finden Sie an anderer Stelle; hier geht es darum, was Sie in der eigenen Organisation sehen und nachweisen können müssen.
Eine Reihe von Faktoren spielt strukturell eine Rolle bei der Frage, ob eine Anwendung schwer wiegt.
Der erste ist der Bereich, in dem die Anwendung eingesetzt wird. Manche Bereiche — denken Sie an Entscheidungen über Menschen, ihre Chancen oder ihre Rechte — wiegen schwerer als Anwendungen, die ausschließlich intern und unterstützend sind. Was die Anwendung innerhalb dieses Bereichs genau tut, macht dabei einen Unterschied: ein System, das berät, wiegt anders als ein System, das automatisch entscheidet.
Der zweite Faktor ist die Rolle, die Ihre Organisation gegenüber dem System einnimmt. Bauen Sie es selbst, kaufen Sie es ein, oder nutzen Sie einen Dienst, in dem KI verarbeitet ist, ohne dass Sie das als solches eingekauft haben? Die Rolle, die Sie einnehmen — Anbieter oder Nutzer — bestimmt mit, welche Pflichten auf Ihrem Tisch liegen und welcher Teil der Verantwortung bei einem Lieferanten verbleibt.
Der dritte Faktor ist, was mit dem Modell nach dem ersten Einsatz geschieht. Ein System, das unverändert so genutzt wird, wie es geliefert wurde, ist eine andere Situation als ein System, das Sie feinabstimmen, neu konfigurieren oder auf eigenen Daten lernen lassen. Was sich ändert, wenn Sie ein Modell selbst anpassen ist daher eine Frage, die separat beantwortet werden muss — eine Anpassung kann ein System die Kategorie wechseln lassen.
Der vierte Faktor ist die Reichweite: wie viele Menschen werden erreicht, mit welcher Häufigkeit, und wie umkehrbar ist ein Fehler. Eine Anwendung, die gelegentlich von einem kleinen Team genutzt wird, wiegt anders als eine Anwendung, die täglich Entscheidungen für tausende Kunden beeinflusst.
Diese Faktoren sind nicht statisch. Eine Anwendung, die heute als begrenztes Risiko gilt, kann das morgen nicht mehr sein — nicht weil sich die Regeln geändert haben, sondern weil sich die Anwendung selbst geändert hat. Ein Pilotprojekt, das auf die gesamte Organisation skaliert wird, ein internes Hilfsmittel, das einen Kundenprozess zu berühren beginnt, ein Modell, das mit neuen Daten nachtrainiert wird: jeder dieser Schritte kann die Einstufung ins Wanken bringen.
Das bedeutet, dass Klassifizierung keine einmalige Übung ist. Es ist eine Frage, die immer wieder neu gestellt werden muss, sobald sich etwas daran ändert, was ein System tut, wen es betrifft oder wer es verwaltet. Eine Governance-Struktur, die dem nicht folgt, hinkt der Praxis hinterher.
Nicht jede KI-Anwendung muss diesen gesamten Prozess durchlaufen. Ein Teil dessen, was innerhalb einer Organisation läuft, fällt außerhalb der Reichweite der Risikoklassifizierung — zum Beispiel, weil es keine Entscheidungen über Menschen betrifft oder weil es ausschließlich eine unterstützende, nicht bestimmende Funktion hat. Wo genau diese Grenze liegt und welche Anwendungen außerhalb des Anwendungsbereichs fallen hängt von denselben Faktoren ab, die oben beschrieben wurden: Bereich, Rolle, Anpassung und Reichweite. Es ist also keine separate Liste, sondern die andere Seite derselben Beurteilung.
Eine Einstufung an sich ändert nichts. Sie bestimmt lediglich, welche Folgeschritte anstehen und mit welcher Dringlichkeit. Manche Maßnahmen sind sofort erforderlich, andere können eingeplant werden — und was jetzt geschehen muss und was geplant werden kann hängt wiederum davon ab, wie schwer die Anwendung wiegt und wie viele Menschen sie betrifft.
Um diese Schritte sichtbar und nachvollziehbar zu machen, müssen Entscheidungen über Klassifizierung und Folgemaßnahmen irgendwo festgehalten werden — nicht als einzelne Notizen, sondern als Teil einer Oversight-Entscheidungsliste, die zeigt, wer was auf Basis welcher Informationen entschieden hat. Ohne diese Dokumentation ist eine Einstufung eine Momentaufnahme, die niemand mehr rekonstruieren kann.
Diese Einstufungsfrage kann nur dann gut beantwortet werden, wenn bekannt ist, was tatsächlich läuft. Eine IT-Liste mit genehmigten Tools reicht dafür nicht aus: ein großer Teil der Nutzung entsteht außerhalb dieser Liste, in Teams, die ein Tool zu nutzen begonnen haben, ohne dies irgendwo zu melden. Wer diese Nutzung erfassen möchte, muss danach fragen — und das nur tun, ohne dass eine Abrechnung damit verbunden ist, sonst bleibt die Antwort aus.
Sobald klar ist, welche Anwendungen es gibt und wie schwer sie wiegen, entsteht eine Folgefrage, die nicht mehr über Risiko geht, sondern über Arbeit: welcher Teil einer Aufgabe kann ein KI-System übernehmen, und welcher Teil bleibt Menschenwerk. Diese Frage beantwortet der Werkscan von FTE TO AI, der pro Aufgabe berechnet, welcher Teil der Arbeit übernommen werden kann — ein anderer Blickwinkel als die Risikoklassifizierung, aber einer, der auf demselben Inventar aufbaut.
Diese Seite beschreibt den Mechanismus hinter der Einstufung. Der Responsible AI Scan selbst befindet sich in der Entwicklung; wer die Ergebnisse davon nutzen möchte, sobald sie verfügbar sind, kann sich für die Warteliste anmelden.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.