Ein Deepfake ist nach Art. 3 Nr. 60 KI-Verordnung „ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“.
Diese Definition ist der Schlüssel zur sichtbaren KI-Kennzeichnungspflicht für Bild, Ton und Video: Art. 50 Abs. 4 verlangt eine Offenlegung für Deepfakes, die ein Betreiber unter eigener Verantwortung einsetzt. Rein persönliche, nicht berufliche Nutzung fällt nicht unter die Betreiberdefinition.
Die vier Kriterien, die zusammen erfüllt sein müssen
Die Leitlinien der Kommission zerlegen die Definition in vier Prüfschritte LL Rn. 113:
| # | Kriterium | Was dahintersteckt |
|---|---|---|
| 1 | Ähnlichkeit | Sie muss spürbar sein — beiläufige Anklänge genügen nicht (ErwGr. 134) |
| 2 | Bezug zur Wirklichkeit | Es reicht, dass das Gezeigte plausibel existieren könnte — nichts real Existierendes muss abgebildet sein |
| 3 | Gegenstand | Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse — nicht nur Menschen |
| 4 | Täuschungseignung | Der Inhalt würde einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen |
Der zweite Punkt wird am häufigsten unterschätzt: Eine Straße, die es so nirgends gibt, aber überall geben könnte, erfüllt ihn — und eine Person, die nie existiert hat, ebenso.
Wo die KI-Kennzeichnungspflicht endet: „offensichtlich künstlich“
Die Gegenprobe steht in derselben Randnummer. Inhalte, die die Gesetze der Natur oder Physik missachten oder Lebensformen zeigen, die die Biologie nicht kennt — die Leitlinien nennen fliegende Menschen ohne Hilfsmittel, Drachen und Auto fahrende Elefanten —, gelten als unrealistisch und fallen aus dem Anwendungsbereich, sofern sie niemanden in die Irre führen können.
Fotorealismus ist dabei nur ein Indiz: Er macht die Einstufung als Deepfake wahrscheinlicher, ist „allein nicht entscheidend“ LL Rn. 114.
Beispiele aus den Leitlinien
Die Einordnung gilt jeweils für den dort beschriebenen Kontext. Sie ist keine starre Safe-Harbour-Liste; entscheidend bleiben Ähnlichkeit, Wirklichkeitsbezug und Täuschungseignung.
| Kein Deepfake | Deepfake |
|---|---|
| Sphinx, die über den Eiffelturm fliegt | Video mit realistischem synthetischem Avatar eines Firmen-CEOs |
| Sprechende Mäuse in einer Käsewerbung | KI-Produktbild, das das Produkt attraktiver oder anders zeigt, als es ist |
| Fiktive Wälder und Burgen im Videospiel | KI-Darstellung einer prominenten Influencerin im Werbekontext |
| Reales Auto vor KI-Hintergrund, solange die Werbung nicht über das Produkt täuscht | Realistische KI-Avatare und KI-Personas |
| KI-Cartoon eines historischen Ereignisses | Fotorealistische Szene, die eine Zielgruppe für echt halten kann |
Drei Irrtümer, die teuer werden können
- „Ein Deepfake braucht einen Menschen.“ Nein — Gegenstände, Orte, Einrichtungen und Ereignisse zählen genauso. Ein virtuell möbliertes Wohnungsfoto kann ein Deepfake sein, wenn Darstellung und Kontext es fälschlich als echt oder wahr erscheinen lassen.
- „Ohne Täuschungsabsicht kein Deepfake.“ Die Bewertung ist objektiv und setzt keine Täuschungsabsicht voraus LL Rn. 114. Gute Absicht schützt nicht.
- „Deepfake heißt Politiker oder Pornografie.“ Der Alltagsbegriff ist enger als der Rechtsbegriff. Praxisnahe mögliche Fälle sind Produktbilder, Immobilien-Renderings und erfundene Teamfotos — jeweils nur, wenn die vollständige Definition erfüllt ist.
Und wenn es ein Deepfake ist?
Dann greift die Offenlegungspflicht, wenn du den Inhalt als Betreiber unter eigener Verantwortung einsetzt Art. 50 Abs. 4; wer davon erfasst ist, klärt die Seite Wer muss kennzeichnen?. Der Deepfake ist dabei nur eine Teilmenge der synthetischen Inhalte — der davon getrennte Art. 50 Abs. 2 regelt die maschinenlesbare Anbieter-Markierung.
Deepfake erkannt? Betreiberrolle prüfen.
Erfüllt dein Bild die vier Kriterien und setzt du es als Betreiber nach eigener verantwortlicher KI-Nutzung ein, brauchst du eine sichtbare Offenlegung. Zieh es in den Editor, setz das optionale offizielle EU-Label oder einen klaren eigenen Hinweis und exportier in Eingabeauflösung bis zum Browserlimit — ohne Upload, direkt im Browser.
