re-ai-gov Auf die Warteliste

Kennisbank

Was muss jetzt erfolgen, und was kann geplant werden

Nicht jede KI-Anwendung in einer Organisation erfordert dieselbe Geschwindigkeit. Manche Angelegenheiten verlangen unmittelbare Aufmerksamkeit, andere können in einen normalen Planungszyklus aufgenommen werden. Das Problem ist, dass diese Einteilung selten explizit gemacht wird. Ohne Klassifizierung erhält alles dieselbe Dringlichkeit, oder — häufiger — keine Dringlichkeit.

Wovon die Einteilung abhängt

Die Frage, ob etwas jetzt erforderlich ist oder später erfolgen kann, ist keine Frage der Vorliebe. Sie hängt von mehreren Faktoren ab, die zusammen bestimmen, wie schwer eine Anwendung wiegt.

Das Risikoniveau der Anwendung ist der erste Faktor. Ein System, das Entscheidungen über Menschen trifft — Einstellung, Kreditvergabe, Zugang zu Dienstleistungen — wiegt anders als ein Tool, das Text für den internen Gebrauch zusammenfasst. Was ein hohes Risikoniveau genau für die Verpflichtungen einer Organisation bedeutet, und warum das nicht für jede Anwendung gleich ist, steht beschrieben auf was ein hohes Risikoniveau für Ihre Organisation bedeutet.

Die Rolle der Organisation ist der zweite Faktor. Eine Organisation, die ein KI-System selbst entwickelt oder anpasst, trägt andere Verantwortlichkeiten als eine Organisation, die ein fertiges System abnimmt und nutzt. Diese Rolle kann sich zudem ändern, ohne dass dem eine bewusste Entscheidung zugrunde liegt: Wer ein Modell feinabstimmt, anpasst oder anders einsetzt als vorgesehen, kann dadurch vom Nutzer zum Anbieter wechseln. Wo diese Grenze liegt, wird erläutert auf was sich ändert, wenn Sie ein Modell selbst anpassen und auf sind Sie Anbieter oder Nutzer, wovon hängt das ab.

Der dritte Faktor ist, ob die Anwendung in den Anwendungsbereich fällt. Nicht jedes System, das als KI bezeichnet wird, unterliegt denselben Verpflichtungen; manche Anwendungen sind ausgeschlossen oder unterliegen einem leichteren Regime. Welche Anwendungen außerhalb des Anwendungsbereichs fallen und warum, steht beschrieben auf welche Anwendungen außerhalb des Anwendungsbereichs fallen.

Diese drei Faktoren — Risikoniveau, Rolle, Anwendungsbereich — bestimmen zusammen, wo eine Anwendung in der Zeitlinie einzuordnen ist. Eine Hochrisikoanwendung, bei der die Organisation als Anbieter auftritt, erfordert eine andere Geschwindigkeit als eine Niedrigrisikoanwendung, die möglicherweise demnächst außerhalb des Anwendungsbereichs fällt.

Was sich ändert, wenn sich die Situation ändert

Die Einteilung ist nicht dauerhaft. Eine Anwendung, die heute als beherrschbar gilt, kann das morgen nicht mehr sein — nicht weil sich die Regeln ändern, sondern weil sich die Anwendung selbst ändert. Ein Modell, das angepasst wird, ein System, das eine neue Aufgabe erhält, ein Tool, das von einem internen Pilotprojekt in die Produktion übergeht: jeder dieser Schritte kann die Rolle oder das Risikoniveau verschieben.

Auch organisatorische Veränderungen spielen eine Rolle. Eine Fusion, ein neuer Lieferant, eine Ausweitung der Nutzung auf eine andere Abteilung — all diese Ereignisse können eine Anwendung, die zuvor als 'kann geplant werden' galt, in die Kategorie 'muss jetzt erfolgen' verschieben. Wann sich eine Rolle ändert und wo genau dieser Umschlagpunkt liegt, ist ausgearbeitet auf wann ändert sich Ihre Rolle, wovon hängt das ab.

Das bedeutet, dass eine einmalige Einteilung nicht ausreicht. Was heute als geplanter Punkt auf der Agenda steht, kann durch eine Veränderung an anderer Stelle in der Organisation ein anderes Gewicht erhalten. Eine feste, periodische Neubewertung ist daher Bestandteil jeder Einteilung, die Bestand haben soll — nicht als zusätzlicher Schritt, sondern als Voraussetzung, um die Einteilung aktuell zu halten.

Was die Einteilung bringt

Eine klare Einteilung verhindert zwei entgegengesetzte Fehler. Der erste ist, dass alles als dringend behandelt wird, wodurch Prioritäten verschwimmen und die Aufmerksamkeit sich über Anwendungen mit geringem Risiko zersplittert. Der zweite ist, dass nichts als dringend angesehen wird, wodurch Anwendungen mit realem Risiko jahrelang unter dem Radar bleiben — häufig weil niemand sie jemals klassifiziert hat.

Die Einteilung selbst ist kein einmaliges Dokument, sondern eine Struktur, die sich mit der Organisation mitbewegt. Sie liefert einen Überblick darüber, was kurzfristig Aufmerksamkeit erfordert, was in einen regulären Prozess aufgenommen werden kann, und — entscheidend — was erneut beurteilt werden muss, sobald sich die Situation ändert. Genau diese Unterscheidung, und die Frage, wovon sie abhängt, ist weiter ausgearbeitet auf was muss jetzt erfolgen und was kann geplant werden, wovon hängt das ab.

Von der Einteilung zum Überblick

Diese Einteilung setzt voraus, dass bekannt ist, welche Anwendungen es gibt. In der Praxis ist das längst nicht immer der Fall. Neben den Systemen, die über IT oder Einkauf genehmigt wurden, laufen in praktisch jeder Organisation Tools, die niemand beantragt und niemand registriert hat — ein Tabellen-Assistent hier, ein Textgenerator dort, eingesetzt von Menschen, die ein Problem lösen wollten und kein Verfahren durchlaufen wollten. Diese Schatten-KI erscheint nicht auf der IT-Liste, und wer danach fragt, ohne dass für den Nutzer etwas auf dem Spiel steht, erhält eher eine ehrliche Antwort als wer sofort mit einer Sanktion droht. Ohne dieses Inventar ist jede Einteilung nach Dringlichkeit eine Einteilung eines Teils der Realität, nicht des Ganzen.

Die Brücke zum Werkscan

Diese Seite behandelt die Klassifizierung: was schwer wiegt, was leicht wiegt, was jetzt Aufmerksamkeit erfordert und was warten kann. Eine andere, ergänzende Frage ist, was eine KI-Anwendung innerhalb einer Aufgabe tatsächlich einbringt. Der Werkscan von FTE TO AI berechnet pro Aufgabe, welcher Teil der Arbeit von KI übernommen werden kann, und bietet damit ein konkretes Bild neben der Governance-Einteilung: nicht nur, ob eine Anwendung Risiko trägt, sondern auch, was sie zur Arbeit selbst beiträgt.

Der Responsible AI Scan befindet sich in der Entwicklung. Wer das Inventar, die Klassifizierung und das Governance-Set nutzen möchte, sobald diese verfügbar sind, kann sich für die Warteliste anmelden.

Andrewde assistent van de Responsible AI Scan

Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.