Synthetische Inhalte sind als Arbeitsbegriff von einem KI-System erzeugte oder manipulierte Audio-, Bild-, Video- oder Textinhalte. Der EU AI Act nutzt den Begriff in Art. 50 Abs. 2: Anbieter solcher Systeme müssen grundsätzlich sicherstellen, dass die Ausgaben „in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind“. Ausgenommen sind Systeme, die nur Standardbearbeitung unterstützen oder Eingabedaten beziehungsweise ihre Semantik nicht wesentlich verändern.
Ein Gesetzesbegriff ohne Legaldefinition
Art. 3 der KI-Verordnung definiert eine lange Reihe von Begriffen — „Deepfake“ in Nr. 60, „Anbieter“ in Nr. 3, „Betreiber“ in Nr. 4. „Synthetisch“ ist nicht darunter. Das Wort steht im Normtext, ohne dass die Verordnung es näher bestimmt.
Praktisch heißt das: Der Begriff wird weit verstanden — erzeugt oder manipuliert, in allen vier Modalitäten. Und er ist deshalb ein schlechter Ratgeber für die Frage „muss ich das labeln?“. Denn die Pflicht, die die meisten Leserinnen und Leser suchen, hängt gar nicht an ihm.
KI-Kennzeichnung: zwei Pflichten, zwei Adressaten
| Anbieterpflicht | Betreiberpflicht | |
|---|---|---|
| Fundstelle | Art. 50 Abs. 2 | Art. 50 Abs. 4 UAbs. 1 |
| Auslöser | grundsätzlich synthetische Audio-, Bild-, Video- oder Textausgaben; nicht bei bloßer Standardbearbeitung oder nicht wesentlicher Änderung | eingesetzter Deepfake |
| Wen trifft es? | den Anbieter des KI-Systems | den Betreiber, der das System unter eigener Verantwortung verwendet |
| Form | maschinenlesbar (Metadaten, Wasserzeichen) | für Menschen wahrnehmbar |
| Für Menschen sichtbar? | nicht automatisch; Consumer können eine Oberfläche rendern | ja |
| Ersetzt die jeweils andere Pflicht? | nein | nein |
Diese Trennung ist der häufigste Fehler in Ratgebertexten. Sie zusammenzuwerfen führt zu beiden falschen Schlüssen zugleich: „mein Generator markiert doch schon, also bin ich fein raus“ und „jedes KI-Bild braucht ein sichtbares Label“.
Die Teilmengen-Logik
Jeder Deepfake ist ein synthetischer Inhalt. Umgekehrt gilt das nicht: Ein KI-Drache, ein Comic, eine stilisierte Illustration oder eine Fantasy-Landschaft im Videospiel sind regelmäßig keine Deepfakes, wenn sie im konkreten Kontext erkennbar unrealistisch sind und nicht als echt oder wahr erscheinen können LL Rn. 113–116. Wo genau die Linie verläuft, klärt der Eintrag zum Deepfake.
Zwei weitere Begriffe grenzen sich davon ab:
- KI-Text folgt einer eigenen Regel: Nur veröffentlichter Text mit dem Zweck, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ist erfasst. Die Pflicht entfällt, wenn der Text inhaltlich bedeutsam menschlich geprüft oder redaktionell kontrolliert wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt Art. 50 Abs. 4 UAbs. 2.
- Standardbearbeitung fällt bereits aus Abs. 2 heraus, wenn das KI-System nur eine unterstützende Funktion ausübt; auf der Betreiberseite entspricht dem, dass geringfügige Bearbeitungen kein Deepfake begründen LL Rn. 116.
Warum dich die Anbieterpflicht trotzdem angeht
Zwei Fälle machen den Oberbegriff auch für Nicht-Anbieter relevant. Erstens der mögliche Rollenwechsel: Wer ein generatives Modell selbst hostet und es unter eigenem Namen bereitstellt oder wesentlich verändert, kann bei erfüllten gesetzlichen Bedingungen zum Anbieter werden — der praktische Fall ist Stable Diffusion im Eigenbetrieb. Zweitens der Zeitplan: Für die in den Leitlinien bezeichneten generativen Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, läuft eine Übergangsfrist bis zum 02.12.2026 LL Rn. 153. Bis dahin tragen nicht alle Ausgaben eine Markierung — ein weiterer Grund, die eigene Kennzeichnung nicht auf fremde Metadaten zu stützen.
Deepfake und Betreiber? Offenlegung gestalten
Ist dein KI-Bild ein Deepfake und setzt du es als Betreiber nach eigener verantwortlicher KI-Nutzung ein, brauchst du eine für Menschen wahrnehmbare Offenlegung. Zieh das Bild in den Editor, setz das optionale offizielle EU-Label oder einen klaren eigenen Hinweis und exportier es in Eingabeauflösung bis zum Browserlimit — es bleibt dabei auf deinem Rechner.
