Organisationen denken oft, dass ihre Rolle feststeht: wir sind Betreiber, der Lieferant ist Anbieter, fertig. Diese Annahme trifft regelmäßig nicht zu, oder trifft heute zu und morgen nicht mehr. Die Rolle, die eine Organisation gegenüber einem KI-System hat, ist keine feste Eigenschaft der Organisation. Sie ist ein Ergebnis dessen, was mit dem System geschieht: wer es entwickelt, wer es anpasst, wer es auf den Markt bringt, und unter welchem Namen. Ändert sich einer dieser Faktoren, kann sich auch die Rolle ändern, und damit die dazugehörigen Verpflichtungen.
Das macht die Einordnung keine Momentaufnahme. Eine Rolle, die bei der Anschaffung korrekt festgestellt wurde, kann ein Jahr später unrichtig sein, ohne dass intern bewusst etwas entschieden wurde.
Die Einordnung hängt von einer begrenzten Anzahl von Faktoren ab, aber diese Faktoren liegen nicht alle bei der Partei, die das System nutzt. Relevant ist unter anderem, ob ein System selbst entwickelt oder eingekauft wurde, ob das eingekaufte System unverändert eingesetzt oder angepasst wird, und ob eine Anpassung das Risikoprofil des Systems berührt. Ebenfalls relevant ist, unter welchem Namen ein System nach außen tritt: ein System, das unter eigener Marke weiterverkauft oder weiterentwickelt wird, kann eine andere Rolle mit sich bringen als der unveränderte Betrieb eines externen Produkts. Für die genaue Grenze zwischen diesen beiden Positionen ist die Seite über was sich ändert, wenn eine Organisation ein eingekauftes Modell selbst anpasst relevant, und für die Grundfrage, welche der beiden Hauptrollen zutrifft, gibt es die Seite, die erläutert, wovon die Wahl zwischen Anbieter und Betreiber genau abhängt.
Die Einordnung ist also nicht etwas, das eine Organisation einmalig feststellt und danach archiviert. Es ist eine Klassifizierung, die neu beurteilt werden muss, sobald sich die zugrunde liegenden Tatsachen ändern.
Wenn sich die Rolle ändert, ändert sich auch, was von einer Organisation erwartet wird. Eine Partei, die reiner Betreiber ist, hat andere Verpflichtungen als eine Partei, die (mit)verantwortlich für die Entstehung eines Systems ist. Das betrifft nicht nur Papierarbeit. Es betrifft auch, wo in der Organisation die Verantwortung für ein System liegen sollte, wer darüber berichtet, und welches Niveau der Aufsicht angemessen ist.
Diese Verschiebung wirkt sich auch auf die Frage aus, wie schwer ein System intern gewichtet werden muss. Ein Rollenwechsel kann dazu führen, dass ein System, das zuvor als beherrschbar galt, erneut hinsichtlich seines Risikoniveaus beurteilt werden muss — eine Frage, die separat auf der Seite über was ein hohes Risikoniveau für die Organisation bedeutet, die das System nutzt oder anbietet behandelt wird. Umgekehrt kann ein Rollenwechsel auch dazu führen, dass ein System gerade außerhalb des Anwendungsbereichs bestimmter Verpflichtungen fällt, oder gerade knapp darunter. Welche Anwendungen genau außerhalb des Anwendungsbereichs fallen und welche knapp nicht, wird auf der Seite über welche Arten von KI-Anwendungen außerhalb des Anwendungsbereichs der Verpflichtungen fallen erläutert.
Die Faktoren, die einen Rollenwechsel verursachen, spielen sich meist auf einer Ebene ab, auf der Vorstand, Rechtsabteilung oder Risikomanagement keinen automatischen Einblick haben. Ein Team, das ein eingekauftes Modell mit eigenen Daten feinabstimmt. Eine Abteilung, die ein externes Chatbot-Produkt unter eigenem Produktnamen an Kunden weiterleitet. Eine Integration, die ein Lieferantenmodell mit eigenen Regeln kombiniert und diese Kombination anschließend extern anbietet. Keiner dieser Schritte läuft automatisch über ein zentrales Register, und die IT-Liste der genehmigten Tools erfasst diese Art von Änderung meist nicht, weil die Änderung nicht als „Neuanschaffung“ erkannt wird, sondern als Anpassung an etwas, das bereits genehmigt war.
Das ist der Grund, warum Rollenwechsel oft erst sichtbar werden, wenn etwas schiefgeht, oder wenn extern Rechenschaft verlangt wird. Die Frage „Welche Rolle haben wir bei diesem System“ wird dann rückwirkend beantwortet, zu einem Zeitpunkt, an dem der Spielraum für Anpassungen kleiner ist, als wenn die Frage früher gestellt worden wäre.
Weil sich die Einordnung verschieben kann, ist die Unterscheidung zwischen dem, was momentan Aufmerksamkeit verlangt, und dem, was auf lange Sicht erneut beurteilt werden muss, relevant für die Planung der Governance-Arbeit. Nicht alles, was ein Rollenwechsel mit sich bringt, erfordert unmittelbares Handeln; ein Teil ist planbar. Welcher Teil das ist, und welcher Teil nicht warten kann, wird auf der Seite über was jetzt aufgegriffen werden muss und was für einen späteren Zeitpunkt eingeplant werden kann behandelt. Für eine kompakte Zusammenfassung der Einordnungsfrage selbst, einschließlich der wichtigsten Wendepunkte, gibt es die Seite, die tiefer auf die genauen Umstände, unter denen sich eine Rolle ändert, eingeht.
Die Frage, welche Rolle eine Organisation gegenüber einem KI-System hat, liegt nahe an einer anderen Frage, die selten die gleiche Aufmerksamkeit erhält: welcher Teil der tatsächlichen Arbeit in der Organisation bereits von KI erledigt wird, geplant ist erledigt zu werden, oder ohne dass es jemand festgehalten hat, bereits übernommen wird. Während die Rollenfrage die Verantwortung gegenüber einem System betrifft, geht es beim Arbeitsscan von FTE TO AI um die Verteilung der Aufgaben selbst: pro Aufgabe wird berechnet, welcher Teil von KI übernommen werden kann, unabhängig davon, welche Rolle die Organisation dabei formal einnimmt. Diese beiden Fragen berühren sich, weil eine Verschiebung in der Aufgabenverteilung oft der Anlass für einen Rollenwechsel ist.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.