Anwender oder Betreiber? Welche Rolle du nach dem EU AI Act einnimmst

Wer bin ich eigentlich aus der Perspektive der EU-KI-Verordnung? Bin ich nur eine Anwender:in oder schon Betreiber:in? Was ist, wenn ich sogar eine Anbieter:in mit besonderen Pflichten? Was wie ein Zitat aus einem Sachbuch der 2000er-Jahre anmutet, ist eine reale Fragestellung, die mit dem zunehmenden Einsatz von Künstlicher Intelligenz einhergeht. Höchste Zeit also für eine Orientierungshilfe für all diejenigen, die ohne Jura-Studium auskommen müssen.

Aber eines nach dem anderen. Die EU-KI-Verordnung ordnet die Welt nämlich neu – und eine wesentliche Rolle spielen dabei die unterschiedlichen Akteure , die in ihr definiert werden. Je nachdem, welche Rolle sie aus Sicht der KI-VO einnehmen, kommen auf sie andere Pflichten (z.B. Transparenz, Dokumentation, Risikomanagement) zu.

Dieser Artikel versteht sich primär als praxisnahes Orientierungsangebot für Medienschaffende. Er kann eine ordentliche Rechtsberatung nicht ersetzen, aber hilft dabei, die wichtigsten Begriffe und typische Fälle einzuordnen.

Die Rollenverteilung: Wer spielt was?

Die KI-VO definiert mit Blick auf KI-Systeme zwei  „Hauptrollen“, die für Medienschaffende relevant sind: den Anbieter (Provider) und den Betreiber (Deployer). In den „Nebenrollen“ spielen Produkthersteller, Einführer, Händler und Bevollmächtigter. Außerdem benennt die KI-VO noch Nutzer:innen und betroffene Personen. Sie sind allerdings keine Akteure im Sinne der KI-VO.

Der Betreiber – In der Redaktion wohl der Regelfall

In den meisten Fällen wird für Medienhäuser die Betreiber-Rolle einschlägig sein.

• Definition: „Betreiber“ ist nach Art. 3 Nr. 4 KI-VO „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet“. In anderen Worten ist jeder, der ein KI-System in eigener Verantwortung einsetzt, Betreiber der KI, außer sie wird rein privat eingesetzt. „In eigener Verantwortung“ bezieht sich vor allem auf die Grund-Entscheidung über den Einsatz und die konkrete Art der tatsächlichen Verwendung des KI-Systems.
• Beispiel: In deinem Medienhaus dürfen z.B. extern entwickelte KI-Tools (wie Claude, Midjourney oder DeepL) für die tägliche Arbeit verwendet werden. Das Medienhaus trägt dann die Verantwortung dafür, wie das System eingesetzt wird und ist damit laut AI Act „Betreiber“.
• Eselsbrücke: Dein Auto: Du hast es zwar nicht gebaut, aber du steuerst es in deiner Verantwortung.
• Verantwortung: Es gelten beispielsweise – neben der Verpflichtung zur Vermittlung von KI-Kompetenz nach Artikel 4 AI Act – die Transparenzpflichten aus Artikel 50 AI Act: Du musst bei jedem veröffentlichten Inhalt, den du mit oder mit Hilfe von KI erstellt hast, prüfen, ob du einer Kennzeichnungspflicht unterliegst. Die Kennzeichnungsvorschriften gelten voraussichtlich ab dem 2. August 2026.

Der Anbieter (Provider) – Die Champions League

Hier wird es ernst. Ein Anbieter ist jemand, der ein KI-System entwickelt oder unter seinem eigenen Namen auf den Markt bringt.

• Definition: „Anbieter“ ist nach Art. 3 Nr. 3 KI-VO „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich.“
• Beispiel: Dein Verlag entwickelt ein eigenes KI-System, das speziell mit dem Archiv der Verlagsinhalte trainiert wurde, und nimmt das System unter seinem Namen in Betrieb oder bietet dieses Tool anderen Verlagen bzw. Endkunden als Produkt an.
• Eselsbrücke: Wieder das Auto: Diesmal baust Du das Auto selbst und verwendest es selbst oder verkaufst es weiter.
• Verantwortung: Anbieter müssen sicherstellen, dass ihre Produkte alle einschlägigen Anforderungen erfüllen, bevor sie sie in Verkehr bringen oder in Betrieb nehmen. Sie unterliegen den speziellen Anbieterpflichten der KI-VO. Welche das genau sind, bestimmt sich danach, auf welche Produktkategorie sich die Anbietereigenschaft bezieht (z.B. weitergehende Anforderungen an technische Dokumentation, Risikomanagement etc.). Anbieter von GPAI-Modellen unterliegen besonderen Bestimmungen (vgl. Art. 53 ff. KI-VO; bei systemischem Risiko gelten zusätzlich die §§ 55 ff. KI-VO). Anbieter von Hochrisiko-KI-Systemen unterliegen wiederum speziellen Verpflichtungen ab Artikel 8 KI-VO, während Anbieter von KI-Systemen mit begrenztem Risiko – wie die Betreiber – „nur“ den Pflichten aus Art. 4 und Art. 50 KI-VO unterliegen.

Der Gestaltenwandler: Wann wird aus einem Betreiber ein Anbieter?

Artikel 25 KI-VO ist überschrieben mit der vermeintlich harmlosen Überschrift „Verantwortlichkeiten entlang der KI-Wertschöpfungskette“. Der Artikel hat es jedoch in sich. Er regelt nämlich, wie man in die Rolle des Akteurs „Anbieter eines Hochrisiko-KI-Systems“ schlittern kann. Der Impuls vieler Lesende, diesen Artikel zu übergehen, weil keine eigenen Systeme entwickelt werden, ist jedoch gefährlich. Denn: Die Grenze ist fließend. Man kann nämlich zum Anbieter werden, ohne eine einzige Zeile Code zu schreiben.

Dies ist nach Artikel 25 Absatz 1 KI-VO dann der Fall, wenn Betreiber, Händler, Einführer oder sonstige Dritte

• a) ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit ihrem Namen oder ihrer Handelsmarke versehen, unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
• b) wenn sie eine wesentliche Veränderung eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Artikel 6 bleibt;
• c) wenn sie die Zweckbestimmung eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem Verwendungszweck, das nicht als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so verändern, dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Artikel 6 wird.

Für Medienhäuser gilt damit: Akteure können problemlos in mehreren Funktionen gleichzeitig agieren. Wer zum Beispiel ein eigenes System entwickelt und dieses für eigene Anwendungsfälle nutzt, vereint die Rollen von Anbieter und Betreiber in sich. Diese rechtliche Doppelrolle bleibt auch dann bestehen, wenn das System anschließend weiteren Nutzern zugänglich gemacht wird.

Fazit

Die KI-Verordnung will Innovation nicht stoppen, sondern Leitplanken bauen. Für die meisten Medienhäuser und Reaktionen, die KI-Systeme zur Verfügung stellen, bleiben die Rechtsfolgen überschaubar: Sie sind in aller Regel „nur“ Betreiber von KI-Systemen. Sie müssen für KI-Kompetenz sorgen (Art. 4 KI-VO). Fortbildung ist keine Kür, sondern Pflicht. Wer KI nutzt, muss verstehen, wie sie funktioniert und wo ihre Grenzen (z.B. Halluzinationen) liegen und im Rahmen der geltenden Bestimmungen auf Transparenz gegenüber der Leserschaft achten (Art. 50 KI-VO).

Wenn du tiefer einsteigen willst: Die Leitlinien der Kommission zu verbotenen Praktiken der Künstlichen Intelligenz gemäß der KI-VO enthalten auch Ausführungen zu den verschiedenen Akteuren.