Ein KI-System einkaufen und es so verwenden, wie es geliefert wird, ist eine andere Situation als ein Modell an Ihre eigenen Daten oder Ihr eigenes Ziel anzupassen. Diese Anpassung kann die Einordnung Ihrer Organisation verändern — und damit die Fragen, die Sie beantworten können müssen. Ob das geschieht und wie schwer das wiegt, hängt davon ab, was genau angepasst wird und wofür das System eingesetzt wird.
Die Einordnung hängt nicht davon ab, ob Sie den Quellcode geschrieben haben. Sie hängt davon ab, was faktisch mit einem Modell geschieht, nachdem es bei Ihnen ankommt. Einige Faktoren, die dabei eine Rolle spielen:
Diese Faktoren wirken zusammen. Es gibt keine feste Schwelle, die in allen Fällen gilt; die aktuelle Regulierung mit den genauen Kriterien steht an anderer Stelle, und dieser Text kann sich ändern. Was auf dieser Seite bestehen bleibt, ist der Mechanismus: Anpassen kann die Rolle verändern, und die Rolle bestimmt die Verpflichtung.
Die Rolle, die Ihre Organisation bei einem KI-System einnimmt, ist nicht fest. Wer ein Modell nur so verwendet, wie es geliefert wurde, hat in der Regel eine andere Position als wer das Modell verändert und es anschließend selbst auf den Markt bringt oder intern in großem Umfang einsetzt. Die Frage, wann dieser Übergang stattfindet und was sich in diesem Moment daran ändert, was Sie nachweisen müssen, wird behandelt unter wann sich Ihre Rolle ändert und wo diese Grenze liegt. Für Organisationen, die zweifeln, ob sie Anbieter oder Nutzer sind — eine Frage, die häufiger auftritt als gedacht, sobald intern angepasst wird — gibt es eine gesonderte Erläuterung unter der Unterschied zwischen Anbieter und Nutzer eines KI-Systems.
Der Grund, warum das eine Rolle spielt, ist nicht formal. Eine Änderung der Rolle verändert, was Sie zeigen können müssen: welche Dokumentation Sie führen, wer innerhalb der Organisation für die Aufsicht verantwortlich ist, und welche Schritte unternommen wurden, bevor das angepasste System in Betrieb ging. Ein Modell, das Sie selbst angepasst haben, ist ein Modell, bei dem Sie selbst gefragt werden können, wie diese Anpassung zustande kam.
Anpassung kann auch das Risikoniveau einer Anwendung beeinflussen. Ein Modell, das ursprünglich für eine leichte Anwendung gedacht war, kann durch Anpassung in eine schwerere Kategorie geraten — beispielsweise wenn es nach der Anpassung für Entscheidungen über Menschen eingesetzt wird. Was ein hohes Risikoniveau konkret für die Verpflichtungen Ihrer Organisation bedeutet, steht unter was ein hohes Risikoniveau für die Anforderungen an Ihre Organisation bedeutet. Auch hier gilt: Die Einordnung folgt aus der Nutzung, nicht aus der Absicht, mit der das Modell einst gebaut wurde.
Das berührt unmittelbar den Kern von Schatten-KI. Eine Anpassung, die nicht über die IT läuft — ein Team, das ein Modell selbst auf einem eigenen Datensatz feintunet, oder eine Abteilung, die ein externes Modell an interne Systeme anbindet, ohne dass darüber berichtet wurde — verändert die Einordnung Ihrer Organisation, ohne dass der Vorstand davon Kenntnis hat. Die IT-Liste zeigt diese Anpassung nicht. Wer wissen will, ob dies geschieht, muss bei den Teams nachfragen, die täglich damit arbeiten, und dieses Gespräch bringt nur etwas, wenn es ohne Abrechnung geführt wird.
Wenn eine Anpassung die Rolle oder das Risikoniveau einer Anwendung verändert, ändern sich mehrere Dinge gleichzeitig: die Dokumentation, die geführt werden muss, die Frage, wer innerhalb der Organisation Eigentümer dieser Anwendung ist, und der Zeitpunkt, an dem etwas noch geplant werden kann gegenüber dem, was bereits Aufmerksamkeit erfordert. Diese Unterscheidung — zwischen dem, was jetzt schon dringend ist, und dem, was noch geplant werden kann — hängt mit Faktoren zusammen, die unter was jetzt schon Aufmerksamkeit erfordert und was noch geplant werden kann erläutert werden. Eine ausführlichere Darstellung der Einordnungsfrage selbst, einschließlich der Grenzfälle, die in der Praxis am häufigsten vorkommen, steht unter der vollständigen Erläuterung dazu, was sich beim Anpassen eines Modells ändert.
Ein angepasstes Modell ist in der Praxis oft auch ein Modell, das einen Teil der Arbeit von Menschen übernimmt, die zuvor eine Aufgabe vollständig selbst ausgeführt haben. Ob das so ist und wie viel der Arbeit es betrifft, ist eine Frage, die von der Einordnungsfrage getrennt ist, ihr aber häufig folgt: Sobald klar ist, dass ein Modell angepasst wurde und wofür es eingesetzt wird, wird auch sichtbar, welchen Teil einer Aufgabe es faktisch ausführt. Der Werkscan von FTE TO AI rechnet das pro Aufgabe aus und zeigt, welcher Teil der Arbeit von KI übernommen werden kann, unabhängig von der Frage, wie das zugrunde liegende Modell entstanden ist.
Vraag maar. Governance begint bij weten wat er draait — ook wat niemand heeft goedgekeurd.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.