„Kann man das nicht einfach prüfen?“ ist eine häufige Rückfrage zur KI-Kennzeichnung. Bei Medien können positive Provenienzsignale zusätzliche Informationen liefern; ihr Fehlen beweist keine menschliche Herkunft. Bei Textdetektoren kommt hinzu, dass ihre Scores keine verlässliche Urheberschaftsfeststellung sind. Diese Seite erklärt die Grenzen und die Folgen für die Praxis. Die Pflichten selbst stehen im Überblick zur KI-Kennzeichnung.
Freitext ist nicht dasselbe wie ein Dokument
Der freiwillige EU-Code-of-Practice setzt für seine Unterzeichner grundsätzlich auf einen mehrschichtigen Ansatz. Für frei aus einem Container herauskopierten Text berücksichtigt er, dass diese Zeichenfolge keine Dateimetadaten transportiert. Für sehr kurze Freitexte unter 200 Tokens enthält der Kodex außerdem eine Ausnahme vom Wasserzeichen-Commitment. Das sind Code-Zusagen, keine für alle Anbieter vorgeschriebene Einzeltechnik.
Eine Bilddatei, ein PDF, ein Office-Dokument oder eine Webseite kann einen Behälter für Zusatzdaten haben. Ein Absatz, den du aus dem Chatfenster kopierst und als reinen Text einfügst, ist dagegen nur eine Folge von Zeichen. Ein mögliches maschinenlesbares Signal muss dann im Textmuster selbst liegen; im ursprünglichen Dokumentcontainer können zusätzlich Metadaten vorkommen.
Was Anbieter tatsächlich markieren
| Geprüfter Anbieter | Öffentlich dokumentierter Textansatz | Verifikation am Stichtag |
|---|---|---|
| Google (Gemini) | SynthID im Wortmuster für Ausgaben der App und Weboberfläche | Gemini-Hilfe beschreibt die öffentliche Prüfung für Bild, Video und Audio, nicht Text |
| OpenAI | In den hier geprüften Primärquellen keine allgemein verfügbare Textmarkierung dokumentiert | keine allgemeine Textprüfung belegt |
Die Tabelle ist keine vollständige Markterhebung und keine Konformitätsbescheinigung. Sie beschreibt nur die konkret geprüften öffentlichen Herstellerangaben am 7. August 2026. Die Details stehen auf den Seiten zu Gemini-Texten und ChatGPT-Texten.
Ändert sich das am 2. Dezember 2026?
Diese Hoffnung hört man oft, und sie beruht auf einer echten Frist: Die Markierungspflicht der Anbieter aus Art. 50 Abs. 2 gilt für neu in Verkehr gebrachte Systeme seit dem 02.08.2026, für vorher in Verkehr gebrachte Bestandssysteme erst ab dem 02.12.2026 LL Rn. 153. Danach, so die Erwartung, müsste doch jedes KI-System seine Ausgaben markieren — auch Texte.
Zwei Gründe sprechen dagegen, sich auf ein bestimmtes Verfahren einzurichten. Erstens ist Art. 50 Abs. 2 technologie- und risikoadaptiert; konkrete Wasserzeichen- und Metadatenzusagen des freiwilligen Kodex gelten nur für Unterzeichner und enthalten für Freitext Bedingungen sowie die 200-Token-Ausnahme. Zweitens bleibt die Anbieter-Markierung maschinenlesbar und ersetzt eine erforderliche Betreiber-Offenlegung nach Art. 50 Abs. 4 nicht LL Rn. 117. Was die Fristen sonst bedeuten, steht auf der Fristen-Seite.
Detektoren: die belegten Zahlen
OpenAI dokumentierte die Grenzen seines damaligen „AI Text Classifier“ und nahm ihn am 20. Juli 2023 wegen geringer Genauigkeit vom Netz. Die damals veröffentlichten Werte: 26 % der KI-Texte korrekt erkannt, 9 % menschlicher Texte fälschlich als KI eingestuft; unter 1.000 Zeichen war das System laut OpenAI ohnehin unzuverlässig.
Für den Hochschulbereich ist Turnitins aktuelle Herstellerdokumentation einschlägig. Sie bestätigt mögliche Fehlklassifikationen, weist den Bereich unter 20 Prozent als weniger zuverlässig aus und warnt ausdrücklich davor, das Ergebnis allein als Grundlage nachteiliger Maßnahmen zu verwenden. Die häufig zitierte Falsch-Positiv-Rate von etwa vier Prozent auf Satzebene stammt aus Berichten zum Modellstand von 2023; sie ist kein aktueller Messwert des 2026 eingesetzten Systems.
Warum die Rechtsordnung auf Offenlegung setzt
Der Aufbau von Art. 50 wird vor diesem Hintergrund verständlich. Die Verordnung verlangt an keiner Stelle, dass irgendjemand KI-Inhalte im Nachhinein enttarnt. Sie verteilt stattdessen zwei Pflichten nach vorn: Anbieter markieren grundsätzlich maschinenlesbar Abs. 2; Betreiber legen bei erfülltem Deepfake- oder Texttatbestand wahrnehmbar offen Abs. 4 — und zwar so, dass niemand auf spezielle technische Werkzeuge zurückgreifen muss LL Rn. 117. Bloßes Veröffentlichen oder Weiterverbreiten fremder Inhalte reicht für die Betreiberrolle nicht.
Die amtliche Mitteilung zu den Kasseler Verfahren nennt unerlaubte Hilfsmittel und Fragen der Beweisbarkeit. Sie belegt nicht, dass allein eine unterbliebene Offenlegung oder ein Detektorscore entscheidend war. Was sich belastbar daraus für Prüfungsarbeiten ableiten lässt, steht auf der Seite KI in wissenschaftlichen Arbeiten.
Was in der Praxis tatsächlich hilft
- Verfahren statt Messung. Wer festlegt, wie KI eingesetzt und wie das dokumentiert wird, braucht keinen Detektor. Genau darauf zielen die Erklärungspflichten von Hochschulen, Verlagen und Förderorganisationen — siehe KI in wissenschaftlichen Publikationen.
- Dokumentieren, während gearbeitet wird. Prompts, Zwischenstände und Freigaben sind belastbar; ein nachträglich erzeugter Score ist es nicht.
- Inhaltlich prüfen und Verantwortung klären. Bei erfassten Texten entfällt die Offenlegung nur bei inhaltlich bedeutsamer menschlicher Prüfung oder redaktioneller Kontrolle und tatsächlicher redaktioneller Verantwortung einer natürlichen oder juristischen Person LL Rn. 133–136.
- Bei Bildern Herkunftssignale prüfen. Ein C2PA-Manifest oder Wasserzeichen kann zusätzliche Provenienzinformation liefern. Ein negatives Ergebnis beweist keine menschliche Herkunft; ein positives Signal beweist nicht automatisch die Wahrheit des Inhalts.
Wann ein KI-Text überhaupt kennzeichnungspflichtig ist, sortiert die Seite KI-Texte kennzeichnen; wie eine Kennzeichnung korrekt aussieht, steht unter Wie kennzeichnen?.
