Deepfakes: Darf ich das? Und sollte ich?

Januar 2025: Los Angeles brennt. Was nicht brannte: Das Hollywood Sign. Trotzdem kursierten in den sozialen Medien spektakuläre Bilder des brennenden Wahrzeichens. Sie waren KI-generiert.

Willkommen in der Realität von Deepfakes. Diese von KI erzeugten oder manipulierten Inhalte ähneln echten Personen, Orten oder Ereignissen so täuschend, dass sie als authentisch wahrgenommen werden (Artikel 3 Nr. 60 KI-Verordnung). Für Medienschaffende bedeutet das eine neue Dimension der Quellenkritik: Nicht nur die Glaubwürdigkeit von Informant:innen steht auf dem Prüfstand, sondern auch die Echtheit von Videos und Audioaufnahmen selbst.

Stell dir vor: Eine Lokalzeitung berichtet über ein angeblich geleaktes Interview mit einer bekannten Politikerin. Das Voice Cloning war so überzeugend, dass niemand Zweifel an der Echtheit des Interviews hatte. Der Artikel geht viral, wird tausendfach geteilt – und muss später widerrufen werden. Vertrauen verspielt, Schaden angerichtet.

Dabei eröffnet die Technologie durchaus faszinierende Möglichkeiten: Dein Avatar könnte augenscheinlich direkt vom Einsatzort berichten, ohne dass du jemals dort warst. Für eine Reportage über historische Ereignisse könntest du nie gedrehtes Filmmaterial erstellen – Interviews mit Zeitzeug:inen oder Einsatzkräften, die so nie stattgefunden haben.

Aber wie weit willst du dabei gehen? Willst du dazu beitragen, dass die Grenzen zwischen Fiktion und Realität weiter verschwimmen? Was darf seriöser Journalismus und was nicht?

Auch wir können dir keine pauschale Antwort auf ethisch komplexe Fragen wie diese geben, aber wir können dir mögliche Handlungsfelder aufzeigen:

Tipps & Tricks für die Praxis

• Redaktionsstandards etablieren: Definiere klare Regeln, wann und wie KI in deiner Redaktion eingesetzt wird. Ohne interne Leitplanken entstehen Grauzonen, die später zu Problemen führen.
• Visuelle Inhalte kritisch prüfen: Auch scheinbar authentische Videos können gefälscht sein. Spezialisierte Erkennungstools nach dem Prinzip „KI prüft KI“ werden immer ausgefeilter. Mach dich damit vertraut.
• Eigene KI-Inhalte transparent kennzeichnen: Ab August 2026 ist die Kennzeichnung nach der KI-Verordnung der Europäischen Union in bestimmten Fällen Pflicht. Transparenz schafft jedoch schon heute Vertrauen und sollte zu redaktionellen Standards gehören.
• Schule dein Team: Technisches Verständnis kann vor Täuschung schützen. Wer Deepfakes erkennt und versteht, fällt schwerer darauf herein. Investiere in Medienkompetenz.
• Eigene Inhalte schützen: Überlege, wie du Videos vor Manipulation bewahren kannst. Digitale Wasserzeichen oder Content Credentials der Content Authenticity Initiative sind erste Schritte.
• Kreativ, aber verantwortungsvoll nutzen: Deepfakes können in Bildung oder historischen Rekonstruktionen wertvoll sein, wenn sie ethisch eingesetzt und klar als solche kommuniziert werden.

Deep Dive: Rechtliche Hintergründe und Risiken

Die EU KI-Verordnung definiert Deepfakes präzise als durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die „wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden“ (Art. 3 Nr. 60). Im Kern geht es um gezielte Täuschung mit technologischen Mitteln – ein technisches Novum mit weitreichenden Folgen.

Technisch funktionieren Deepfakes über generative KI-Modelle, die aus großen Datenmengen lernen, wie ein Gesicht oder eine Stimme typischerweise aussieht oder klingt. Diese Modelle erzeugen dann neue Inhalte, die so wirken, als wären sie authentisch. Die Verfahren reichen von Bild-zu-Bild-Verwandlungen über Sprachsynthetisierung bis hin zu vollständigen Video-Manipulationen. Entscheidend ist: Die Grenzen zwischen Realität und Fiktion verschwimmen für Betrachter vollständig.

Medienhäuser experimentieren bereits mit diesen Möglichkeiten. In einem Dokumentarformat könnte ein Historiker ein Interview mit John F. Kennedy führen, das auf echten, belegbaren Zitaten basiert, aber vollständig KI-generiert ist. Solche Anwendungen können Archivmaterial zum Leben erwecken und komplexe historische Zusammenhänge veranschaulichen. Genau hier aber liegt die juristische Herausforderung: Wo verläuft die Grenze zwischen legitimer kreativer Nutzung und problematischer Täuschung?

Transparenzpflicht nach KI-Verordnung

Artikel 50 Abs. 4 KI-Verordnung verlangt grundsätzlich die Kennzeichnung von Deepfake-Inhalten. Die Regelung ist jedoch differenziert: Ausnahmen gelten bei „offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werken oder Programmen“. Hier beschränkt sich die Transparenzpflicht darauf, „das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt“.

Die praktische Umsetzung erweist sich jedoch als komplex. Es bleibt die Frage, was genau als „geeignete“ Offenlegung gilt. Ein Wasserzeichen kann die visuelle Qualität erheblich mindern, Audiohinweise lassen sich technisch entfernen oder überspielen.

Weitere Rechtsbereiche im Überblick

Persönlichkeitsrecht und Recht am eigenen Bild: Deepfakes greifen massiv in Persönlichkeitsrechte ein. Wer Stimmen oder Gesichter ohne ausdrückliche Zustimmung der betroffenen Person nutzt, riskiert nicht nur zivilrechtliche Klagen auf Unterlassung und Schadensersatz, sondern kann auch strafrechtlich belangt werden. Besonders problematisch wird es, wenn Deepfakes Personen in kompromittierenden oder rufschädigenden Situationen zeigen.

Urheberrecht: Basieren Deepfakes auf geschützten Originalbildern, Videos oder Tonaufnahmen, entstehen schnell Urheberrechtsverletzungen. Aber nicht nur die Nutzung fremder Werke steht im Fokus, sondern auch die Frage, wem die Rechte an KI-generierten Inhalten zustehen.

Strafrecht: Manipulierte Aussagen können verschiedene Straftatbestände erfüllen – von Verleumdung und übler Nachrede bis hin zum Betrug. Besonders brisant wird es, wenn Deepfakes in Gerichtsverfahren als vermeintliche Beweise eingesetzt werden.

Medienrecht: Der Medienstaatsvertrag (MStV) verpflichtet Medienanbieter zur Einhaltung journalistischer Grundsätze auch beim Einsatz virtueller Elemente. Berichterstattung und Informationssendungen müssen unabhängig und sachlich sein. Nachrichten sind vor ihrer Verbreitung mit der nach den Umständen gebotenen Sorgfalt auf Wahrheit und Herkunft zu prüfen (§ 6 MStV; siehe auch § 19 MStV für Telemedien).

Medienpolitische Dimension

Aus medienpolitischer Sicht sind Deepfakes ein zweischneidiges Schwert. Einerseits können sie das Vertrauen in Medien fundamental erschüttern und demokratische Meinungsbildungsprozesse gefährden. Falsche Wahlinformationen, gefakte Politiker-Statements oder diffamierende Clips von Kandidaten können Wahlkämpfe manipulieren und das Vertrauen in demokratische Institutionen untergraben. Der sogenannte „Liar’s Dividend“ – die Möglichkeit, echte aber unbequeme Inhalte als Deepfakes zu diskreditieren – verstärkt dieses Problem zusätzlich.

Andererseits eröffnen Deepfakes neue Möglichkeiten für kreative Formate, inklusive Kommunikation und politische Bildung. Historische Persönlichkeiten können „wiederauferstehen“, um komplexe Zusammenhänge zu erklären, oder Inhalte können barrierefrei in Gebärdensprache übersetzt werden. Entscheidend ist die transparente und verantwortungsvolle Verwendung.

Dieser Beitrag gibt einen Überblick zu rechtlichen Themen, ersetzt aber keine individuelle Rechtsberatung. Hierfür ist die persönliche Einschätzung einer Rechtsanwält:in erforderlich.

Bei der Erstellung des Beitragsbildes sowie des Textes kam generative Künstliche Intelligenz unterstützend zum Einsatz.