Kennzeichnungspflicht bei KI-Inhalten: Was der neue EU AI Act für Medienhäuser bedeutet

Du liest einen Artikel über ein politisches Thema und erst am Ende erfährst du, dass der Text von einer Künstlichen Intelligenz (KI) geschrieben wurde. Wäre es dir wichtig, das vorher zu wissen? Genau darum geht es beim neuen EU AI Act: Leser:innen sollen erkennen können, wann Inhalte künstlich erzeugt wurden, vor allem dann, wenn es um öffentliche Informationen geht.

Der EU AI Act ist seit August 2024 in Kraft und regelt erstmals rechtsverbindlich den Einsatz von KI in der EU. Besonders für Medienschaffende sind dabei die sogenannten Transparenzpflichten wichtig. Denn KI wird in Redaktionen und Agenturen immer häufiger eingesetzt. Der AI Act verlangt nun: Wer KI-gestützte Inhalte veröffentlicht, muss das in einigen Fällen auch klar kenntlich machen.

Klingt aufwändig, ist es aber nicht unbedingt. KI arbeitet mehr wie eine sehr gute Assistentin, die blitzschnell aus Rohmaterial eine Zusammenfassung schreibt oder automatisch Bild- und Tonausschnitte erstellt. Solange du die Verantwortung behältst, darfst du diese Kollegin auch weiterhin zu Rat ziehen. Aber in bestimmten Fällen musst du deine Leserschaft darüber informieren.

Ein Beispiel aus dem Alltag: Eine Lokalzeitung nutzt KI, um aus den Mitschriften einer Gemeinderatssitzung automatisch eine Kurzmeldung zu erstellen. Wird dieser Text veröffentlicht, muss laut AI Act darauf hingewiesen werden, dass er nicht vollständig von Menschenhand stammt. Es sei denn, er wurde von einer Redaktion geprüft und freigegeben (Artikel 50 Abs. 4 Unterabsatz 2 AI Act). Bei Deepfakes (künstlich erzeugten Bildern, Tönen oder Videos, die wie echte Aufnahmen wirken) ist die Lage noch klarer: Solche Inhalte müssen immer als KI-generiert gekennzeichnet werden, sofern sie nicht Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms sind. Für derartige Werke genügt ein allgemeiner Hinweis auf die künstliche Erzeugung, der die Darstellung oder den Genuss des Weks nicht beeinträchtigt (Artikel 50 Abs. 4 Unterabsatz 1 AI Act).

Tipps & Tricks für die Praxis

• Prüfe Deine Rolle: Nutzt du KI für Veröffentlichungen in einem beruflichen Kontext, bist du oder Dein Arbeitgeber rechtlich gesehen KI-„Betreiber“ im Sinne des AI Acts.
• Redaktionelle Kontrolle schützt: Wurde ein Text einer redaktionellen Endabnahme unterzogen, entfällt die Kennzeichnungspflicht im Bereich der Texterzeugung.
• Bei Deepfakes vorsichtig sein: In Grenzfällen besser kennzeichnen. Wer transparent mit KI umgeht, ist auf der sicheren Seite.
• Kennzeichne klug: Ein gut lesbarer, kurzer Hinweis wie „Automatisch erstellt mit Unterstützung von KI“ könnte genügen.

Wenn du tiefer einsteigen willst, erfährst du im nächsten Abschnitt weitere Grundlagen des AI Acts und wie du etwaige Transparenzpflichten verantwortungsvoll umsetzen kannst.

Deep Dive: Kennzeichnungspflichten bei KI-generierten Inhalten

Der AI Act unterscheidet je nach Risiko des KI-Einsatzes. In den meisten Anwendungsfällen in der Medienbranche wird man wohl von KI-Systemen mit nur „begrenztem“ Risiko ausgehen können. Für diese gelten zwar keine strengen Vorgaben wie bei den sogenannten „Hochrisiko“-KI-Systemen. Aber es gelten gewisse Offenlegungspflichten in Bezug auf den KI-Einsatz.

Aber bleiben wir bei der Gemeinderatssitzung. Du nutzt ein KI-System, das aus einer zweistündigen Tonaufnahme eine schriftliche Zusammenfassung generiert. Nach dem AI Act bist du in diesem Moment ein „Betreiber“, also jemand, der KI für seine berufliche Arbeit einsetzt. Das bedeutet: Du musst bestimmte Regeln einhalten, wenn das Ergebnis veröffentlicht werden soll.

Die rechtliche Grundlage ist Artikel 50 Absatz 4 des AI Acts. Dieser verpflichtet Betreiber von KI-Systemen, den Einsatz solcher Systeme transparent zu machen. Damit soll das Vertrauen in die Medien soll gestärkt und Manipulation verhindert werden. Deshalb sind diese Regelungen besonders dann wichtig, wenn sie Inhalte erzeugen oder verändern, die an die Öffentlichkeit gehen.

Ein großes Fragezeichen bleibt bei der Umsetzung: Wie genau soll die Kennzeichnung aussehen? Der AI Act nennt keine festen Formate. Medienhäuser können also eigene Standards entwickeln – idealerweise sofort verständlich und konsistent. Ein kurzer Hinweis im Artikel oder im Video genügt oft, um gesetzeskonform zu handeln und das Vertrauen der Nutzer zu stärken.

Ein fiktives Praxisbeispiel: Ein Radiosender nutzt KI, um O-Töne automatisch in einen Beitrag für die Website einzubetten. Werden diese Inhalte auf der Website veröffentlicht, muss kenntlich gemacht werden, dass der Beitrag mithilfe von KI erstellt wurde. Will der Sender auf eine Kennzeichnung verzichten, sollte er redaktionelle Sicherungsmaßnahmen ergreifen, z. B. durch eine inhaltliche Kontrolle und Freigabe durch eine verantwortliche Redakteur:in.

Sonderfall Emotionserkennung: Betreibst Du ein „Emotionserkennungssystem“ oder ein „System zur biometrischen Kategorisierung“, also KI-Systeme, die Emotionen erkennen oder Persönlichkeitsmerkmale beispielsweise aus Videos oder Interviews auslesen und kategorisieren, musst du die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten gemäß den einschlägigen datenschutzrechtlichen Bestimmungen verarbeiten (Artikel 50 Abs. 3 AI Act).

Ein Blick nach vorn

Der AI Act ist ein erster Anfang für die Regulierung von KI-Systemen. Viele Details werden erst durch Leitlinien des EU AI Office konkretisiert werden. Medienhäuser sollten daher die Entwicklungen aktiv verfolgen und gegebenenfalls interne Standards für Transparenz und redaktionelle Verantwortung entwickeln. Denn eines ist klar: Künstliche Intelligenz wird bleiben. Die Frage ist nur, wie wir damit umgehen.

Dieser Beitrag gibt einen Überblick zu rechtlichen Themen, ersetzt aber keine individuelle Rechtsberatung. Hierfür ist die persönliche Einschätzung einer Rechtsanwält:in erforderlich.

Bei der Erstellung des Beitragsbildes sowie des Textes kam generative Künstliche Intelligenz unterstützend zum Einsatz.