Für die meisten Betreiber ist das Bußgeld der Anlass, sich mit Art. 50 Abs. 4 zu befassen. Für die in § 17 Abs. 2 KI-MIG genannten Stellen fällt dieses Durchsetzungsmittel weg. Marktüberwachung, Abhilfemaßnahmen, Beschwerden sowie Fach- und Rechtsaufsicht bleiben jedoch möglich. Diese Seite ordnet, was gilt, was ausgenommen ist und welche Zuständigkeiten zu prüfen sind.
Wann eine Behörde Betreiber ist
Art. 3 Nr. 4 nennt Behörden und Einrichtungen ausdrücklich, verlangt aber zusätzlich, dass sie ein KI-System in eigener Verantwortung verwenden. Nach LL Rn. 12 kommt es auf ihre Autorität über Einsatz, Zweck und Art der tatsächlichen Nutzung einschließlich der Outputs an. Die persönliche Privatausnahme gilt einer Behörde zwar nicht; das ersetzt aber nicht diese positive Voraussetzung. Eine Stelle, die einen fremden KI-Inhalt ohne Autorität über Erzeugung oder Manipulation nur übermittelt oder weiterverbreitet, ist nach LL Rn. 16 nicht allein dadurch Betreiber.
Handeln Beschäftigte unter Weisung, Verantwortung und Kontrolle der öffentlichen Stelle, sind sie keine eigenen Betreiber; die Betreiberrolle kann dann bei der Stelle liegen LL Rn. 14. Eine eigenständige Nutzung außerhalb dieses Rahmens ist gesondert zu prüfen. Praktisch braucht die Organisation deshalb klare Zuständigkeiten statt ungeklärter Einzelfallentscheidungen am Schreibtisch. Was der Begriff sonst noch umfasst, steht im Glossar-Eintrag Betreiber.
Eine Falle liegt daneben: Wer einen Chatbot oder ein Generierungswerkzeug selbst entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt, kann zusätzlich Anbieter werden — die Leitlinien nennen als Beispiel eine Behörde, die intern einen Chatbot entwickelt LL Rn. 11. Bei einem System zur direkten Interaktion ist dann die Anbieterpflicht aus Art. 50 Abs. 1 zu prüfen; erzeugt das System synthetische Bild-, Ton-, Video- oder Textinhalte, kommt für diese Ausgaben unter den gesetzlichen Voraussetzungen zusätzlich die maschinenlesbare Markierungspflicht aus Art. 50 Abs. 2 in Betracht.
Kein Bußgeld — der deutsche Sonderweg
Zwei Einschränkungen gehören dazu. Erstens gilt die Freistellung für deutsche öffentliche Stellen — EU-Institutionen, -Einrichtungen und -Agenturen können nach den Leitlinien mit Geldbußen bis 750.000 € belegt werden LL Rn. 152. Zweitens ist die Anknüpfung an § 2 BDSG nicht trivial: Nach § 2 Abs. 5 BDSG gelten öffentliche Stellen des Bundes als nichtöffentliche Stellen, soweit sie als öffentlich-rechtliche Unternehmen am Wettbewerb teilnehmen. Sichere Aussagen für kommunale Eigenbetriebe, Sparkassen oder Verkehrsbetriebe lassen sich daraus nicht ableiten — wer wirtschaftlich am Markt auftritt, sollte die Freistellung nicht ungeprüft für sich beanspruchen. Wie der Bußgeldrahmen für alle anderen aussieht, steht auf der Bußgeld-Seite.
Die Strafverfolgungs-Ausnahme: sie hängt am Einsatz, nicht am Briefkopf
Art. 50 Abs. 4 UAbs. 1 S. 2 nimmt die Verwendung aus, die „zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist“. Das ist die ausdrückliche Ausnahme für Bild-, Ton- und Video-Deepfakes in Unterabsatz 1. Unterabsatz 2 enthält daneben die Textausnahme bei substantieller menschlicher Prüfung oder redaktioneller Kontrolle plus redaktioneller Verantwortung. Die Leitlinien verweisen für Deepfakes auf die Auslegung zu Art. 50 Abs. 1 LL Rn. 125:
| Kriterium | Was die Leitlinien sagen | Fundstelle |
|---|---|---|
| „Gesetzlich zugelassen“ | Unionsrecht oder nationales Recht; es muss Zwecke und Umstände der zulässigen Verwendung klar bestimmen und Schutzvorkehrungen für Rechte Dritter vorsehen | LL Rn. 47 |
| Konkretes System benennen? | Nicht nötig — es genügt, wenn der Einsatz im Rahmen der gesetzlich erlaubten Tätigkeit allgemein vorgesehen ist | LL Rn. 47 |
| Wer darf sich berufen? | Nicht nur Strafverfolgungsbehörden i. S. d. Art. 3 Nr. 48, auch andere Behörden — sofern gesetzlich zugelassen | LL Rn. 48 |
| Dual-Use-Systeme | Die Ausnahme wird „im Licht des konkreten Einsatzes“ beurteilt; für reguläre Zwecke gilt die Pflicht weiter | LL Rn. 48 |
| Zweck | Nur Straftaten. Gefahrenabwehr, Ordnungswidrigkeiten oder Verwaltungsverfahren nennt der Wortlaut nicht | Art. 50 Abs. 4 |
Übersetzt in den Amtsalltag: Ein Fahndungs- oder Ermittlungswerkzeug fällt unter die Ausnahme. Dieselbe Bildsoftware, mit der die Pressestelle anschließend ein Motiv für die Präventionskampagne baut, fällt nicht darunter. Für Text gilt ein eigener Tatbestand: Die Leitlinien nennen eine ungeprüfte KI-generierte Polizeiwarnung vor einer Terrorgefahr als Beispiel für einen grundsätzlich erfassten Text LL Rn. 139. Substanzielle menschliche Prüfung oder redaktionelle Kontrolle kann zusammen mit tatsächlicher redaktioneller Verantwortung die Textausnahme begründen; alles Weitere dazu auf der Seite zu KI-Texten.
Barrierefreiheit: für öffentliche Stellen besonders konkret
Art. 50 Abs. 5 verlangt eine klare und unterscheidbare Offenlegung spätestens bei der ersten Interaktion oder Exposition und die Einhaltung der jeweils geltenden Barrierefreiheitsanforderungen. Die Leitlinien präzisieren: Art. 50 schafft keine eigenen Zusatzanforderungen, verweist aber auf bestehendes Recht und nennt dafür die Richtlinie (EU) 2016/2102 LL Rn. 144, in Deutschland umgesetzt über die BITV 2.0.
Für Unternehmen ist das ein Prüfpunkt. Für Behörden ist es die Regel, an die sie ohnehin gebunden sind. Praktisch heißt das:
- Die sichtbare Offenlegung ist ein eigener Pflichtteil. Nur maschinenlesbare Metadaten oder eine ausschließlich für assistive Technik hinterlegte Textalternative machen den Hinweis nicht für das gesamte Publikum wahrnehmbar LL Rn. 117, 144. Je nach Einbindung braucht es deshalb zusätzlich eine klar zugeordnete sichtbare Offenlegung.
- Eine barrierefreie Textalternative ist das Ziel. Je nach Einbindung kann sie über Alternativtext, ARIA oder einen wahrnehmbaren Begleittext bereitgestellt werden; nicht in jedem Kontext ist exakt dasselbe Attribut vorgeschrieben.
- Kontrast und Größe müssen zum anwendbaren Standard passen. Der freiwillige Code of Practice nennt hohen Kontrast, assistive Technologien und Farbfehlsichtigkeit als Umsetzungsmaßstab für seine Unterzeichner CoP Measure 1.1.
- Sprache mitdenken. Der Code of Practice setzt auf das englische Akronym „AI“ als Hauptelement; für eine Bürgerkommunikation, die alle Altersgruppen erreichen soll, ist die Kombination aus „AI“-Icon und deutschem Zusatz „KI-generiert“ die naheliegende Lösung.
Der Amtsalltag: wo die KI-Kennzeichnung greift und wo nicht
Die Pflicht trifft nur Deepfakes — KI-erzeugte oder -manipulierte Inhalte mit wahrnehmbarer Ähnlichkeit zu existierenden oder plausibel existierenden Personen, Orten, Gegenständen, Einrichtungen oder Ereignissen, die im Kontext fälschlich echt oder wahr wirken. Das grenzt viele Fälle der Verwaltungskommunikation aus:
| Typischer Fall | Einordnung |
|---|---|
| Fotorealistisches Titelbild fürs Amtsblatt (Straßenszene, Rathaus, Menschen) | starkes Indiz; Ähnlichkeit, falschen Echtheitseindruck, Kontext und Publikum prüfen |
| Visualisierung eines geplanten Bauvorhabens im Fotolook | regelmäßig prüfbedürftig; Planungscharakter zusätzlich klarstellen |
| KI-Porträts oder synthetische „Bürgerinnen und Bürger“ in einer Kampagne | regelmäßig prüfbedürftig; Fotorealismus allein genügt nicht |
| Piktogramme, Icons, Infografiken, Diagramme | typischerweise kein Deepfake; Kontextprüfung bleibt |
| Illustrationen im offensichtlich gezeichneten Stil | typischerweise kein Deepfake; Kontextprüfung bleibt |
| KI-Farbkorrektur oder Zuschnitt eines echten Verwaltungsfotos | kann je nach Kontext und Wahrnehmungswirkung geringfügig sein LL Rn. 116 |
| Vor dem 2. August 2026 erzeugte Bildbestände | keine rückwirkende Pflicht; eine nachträgliche Kennzeichnung ist nur „empfohlen“ LL Rn. 154 |
Die Grenzfälle sortiert der Ausnahmen-Check; wie ein Label technisch korrekt sitzt, steht unter Wie kennzeichnen?. Den Überblick über alle Pflichten gibt der Leitfaden zur KI-Kennzeichnung.
Drei Dinge, die sich sofort regeln lassen
- Eine Dienstanweisung statt Einzelfallentscheidungen. Wer Deepfake-fähige Bilder freigibt, wer kennzeichnet, wo das Label sitzt — das gehört einmal geregelt, nicht in jedes Referat.
- KI-Kompetenz unterstützen. Art. 4 verpflichtet Anbieter und Betreiber seit dem 2. Februar 2025, Maßnahmen zur Unterstützung der Entwicklung der KI-Kompetenz ihres Personals und sonstiger in ihrem Namen handelnder Personen zu treffen. Die seit Juli 2026 geltende Fassung schreibt kein bestimmtes oder „ausreichendes“ Niveau vor.
- Freigaben dokumentieren. Ein Vermerk im Redaktionssystem, wer welches KI-Bild wann geprüft und gekennzeichnet hat, kann bei einer Bürgerbeschwerde als hilfreicher interner Nachweis dienen; eine ausschließliche Beweisform schreibt Art. 50 nicht vor.
Label setzen, ohne dass Daten das Haus verlassen
Amtsblatt-Titel, Kampagnenmotiv oder Social-Media-Post: Zieh das Bild in den Editor, setz das amtliche EU-Label mit deutschem Zusatz und exportier in Eingabeauflösung bis zum Browserlimit. Die Verarbeitung läuft vollständig im Browser — kein Upload, kein externer Dienstleister, keine Auftragsverarbeitung.
