Bei der Frage „Muss ich meinen KI-Chatbot kennzeichnen?“ geht es nicht um ein Label auf generierten Bildern. Maßgeblich ist die Interaktionspflicht aus Art. 50 Abs. 1 der KI-Verordnung: Ein Mensch soll wissen, ob sein Gegenüber ein KI-System ist, bevor er sich auf das Gespräch verlässt oder persönliche Informationen teilt. Die Pflicht ergänzt den allgemeinen Überblick zu Artikel 50, hat aber einen eigenen Adressaten, Auslöser und Zeitpunkt.
Der Vier-Punkte-Check für deinen Chatbot
Nicht jedes Antwortfenster ist ein erfasster KI-Chatbot. Die Leitlinien der Europäischen Kommission zerlegen Art. 50 Abs. 1 in vier Fragen LL Rn. 30:
- Ist es ein KI-System? Ein einfacher Wenn-dann-Antwortbaum, eine starre Abwesenheitsnotiz oder vorformulierte Schnellantworten können schon außerhalb der KI-System-Definition liegen.
- Ist das System für Interaktion bestimmt? Erfasst ist ein wechselseitiger, kontextbezogener Austausch — per Text, Stimme oder körperlicher Interaktion, in einem oder mehreren Gesprächsschritten. Bloßes Datensammeln im Hintergrund genügt nicht.
- Interagiert die KI direkt mit einem Menschen? Das ist bei Echtzeit- und nahezu Echtzeitdialogen regelmäßig der Fall. Erstellt die KI nur intern einen Entwurf, den ein Mensch sinnvoll prüft, auswählt und als tatsächlicher Gesprächspartner versendet, kann die direkte KI-Interaktion fehlen.
- Ist das Gegenüber eine natürliche Person? Reine Maschine-zu-Maschine-Kommunikation und geschlossene technische Hintergrundsysteme fallen nicht allein deshalb unter Absatz 1, weil sie Daten austauschen.
Sind alle vier Punkte erfüllt, muss der Anbieter die Information technisch und gestalterisch im System vorsehen. Dass ein Mensch theoretisch irgendwann in das Gespräch eingreifen könnte, nimmt einem autonom antwortenden Chatbot nicht seine direkte Interaktion.
Anbieter ist nicht einfach derjenige mit dem Website-Login
Art. 50 Abs. 1 richtet sich ausdrücklich an Anbieter. Das ist die Person oder Organisation, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke auf den Markt bringt oder in Betrieb nimmt. Die Betreiberrolle bezeichnet dagegen die Nutzung eines KI-Systems unter eigener Verantwortung. Beides kann in einem Unternehmen zusammenfallen, muss es aber nicht.
| Konstellation | Wer die Pflicht aus Abs. 1 prüfen muss |
|---|---|
| Du entwickelst einen Chatbot und bietest ihn anderen unter deiner Marke an | Du bist regelmäßig Anbieter. |
| Dein Unternehmen lässt einen eigenen Chatbot entwickeln und nimmt ihn unter seinem Namen in Betrieb | Dein Unternehmen kann nach der Anbieterdefinition selbst Anbieter sein. |
| Ein SaaS-Unternehmen stellt seinen Chatbot-Dienst unter eigener Marke bereit | Das SaaS-Unternehmen ist für die Anbieterpflicht verantwortlich. |
| Du bindest ein unverändertes Drittanbieter-Widget auf deiner Website ein | Die Einbindung allein macht dich nicht automatisch zum Anbieter; prüfe trotzdem, ob der vorgesehene Hinweis in deinem Layout erhalten bleibt. |
| Mitarbeitende nutzen KI nur intern für Antwortentwürfe und führen das Gespräch selbst | Dann kann eine direkte Interaktion zwischen Endnutzer und KI fehlen. Der tatsächliche Grad menschlicher Kontrolle entscheidet. |
Der Produktname oder die Rechnungsbeziehung beantwortet die Rollenfrage nicht zuverlässig. Dokumentiere deshalb, wer das System unter welchem Namen bereitstellt, wer Oberfläche und Gesprächsablauf kontrolliert und ob du ein fremdes System wesentlich veränderst. Der Glossar-Eintrag zum Anbieter erklärt die Rolle ausführlicher.
Webchat, Voicebot und Avatar richtig abgrenzen
Der Kanal ist nicht entscheidend. Absatz 1 erfasst textliche, akustische und verkörperte Interaktion, wenn das System auf den Menschen reagiert.
| Anwendung | Art. 50 Abs. 1 | Passender erster Hinweis |
|---|---|---|
| Generativer Support-Chat auf einer Website | regelmäßig erfasst | sichtbar auf der Chat-Startansicht und in der ersten Nachricht |
| KI-Telefonzentrale oder Voicebot | regelmäßig erfasst | verständliche gesprochene Ansage zu Beginn |
| Interaktiver KI-Avatar im Videochat oder am Terminal | regelmäßig erfasst | sichtbarer Text und, wenn gesprochen wird, eine hörbare Formulierung |
| KI-Agent, der selbstständig Menschen per Nachricht oder E-Mail kontaktiert | erfasst, wenn eine direkte Interaktion vernünftigerweise zu erwarten ist | eindeutiger Hinweis am Anfang der Nachricht und auf wessen Auftrag der Agent handelt |
| Livechat, in dem ein Mensch KI-Entwürfe prüft und selbst antwortet | nicht automatisch direkte KI-Interaktion | internen Ablauf und tatsächliche menschliche Kontrolle prüfen |
| Statisches Avatar-Video ohne Dialog | keine Interaktion nach Abs. 1 | stattdessen eine mögliche Deepfake-Offenlegung nach Abs. 4 getrennt prüfen |
| Suchfeld, Übersetzung, Spamfilter oder reine Produktempfehlung ohne Dialog | regelmäßig nicht allein wegen dieser Funktion erfasst | prüfen, ob zusätzliche Konversationsfunktionen den Fall verändern |
Ein Voicebot ist also nicht wegen seiner synthetischen Stimme kennzeichnungspflichtig, sondern weil ein KI-System direkt mit einem Menschen spricht. Ein Avatar fällt unter Absatz 1, wenn er auf Eingaben reagiert. Ob seine Darstellung oder Stimme zugleich ein Deepfake ist, ist eine zweite Frage.
Mehr zu realistischen Personen steht auf der Seite KI-Avatare kennzeichnen, die Besonderheiten gesprochener Inhalte erklärt KI-Audio kennzeichnen.
Die Offensichtlichkeits-Ausnahme ist eng
Kein zusätzlicher Hinweis ist nötig, wenn für eine angemessen gut informierte, aufmerksame und verständige Person unter den Umständen und im Nutzungskontext offensichtlich ist, dass sie mit einem KI-System interagiert Art. 50 Abs. 1. Nach den Leitlinien soll diese Ausnahme zurückhaltend angewandt werden. Der Anbieter muss seine Bewertung für die erwartbaren Nutzer und den konkreten Einsatz begründen können LL Rn. 42–45.
Für die Beurteilung zählen unter anderem:
- Oberfläche und Name: „Kundenservice“, ein menschlicher Vorname oder ein Porträt können einen Menschen vermuten lassen. Ein ausdrücklich als „KI-Chat“ bezeichnetes Fenster schafft dagegen selbst Klarheit.
- Stimme und Erscheinung: Eine robotisch erkennbare Darstellung spricht eher für Offensichtlichkeit; eine natürliche Stimme oder ein fotorealistischer Avatar eher dagegen.
- Gesprächsqualität: Personalisierte, emotionale und lange Dialoge können den Eindruck eines menschlichen Gegenübers verstärken.
- Zielgruppe: Alter, Behinderung, Erfahrung und erwartbare Schutzbedürftigkeit gehören in die Kontextprüfung.
- Einsatzort: Bei einem professionellen Coding-Assistenten für geschulte Fachleute ist die KI eher offensichtlich als bei einer allgemeinen Beratungs- oder Hilfe-Hotline.
Es genügt nicht, dass Menschen allgemein wissen, dass Unternehmen heute KI einsetzen. Ebenso wenig beweist ein Chatblasen-Symbol, dass kein Mensch antwortet. Wenn bei einer erwartbaren Nutzung ein ernsthafter Zweifel bleibt, ist ein kurzer Klartext-Hinweis der robuste Weg.
Spätestens beim ersten Kontakt — nicht im Kleingedruckten
Die gemeinsame Zeitregel steht in Art. 50 Abs. 5: Die Information muss spätestens bei der ersten Interaktion oder Exposition klar und unterscheidbar bereitstehen. Beim Chatbot bedeutet das nach den Leitlinien typischerweise eine hervorgehobene Information, bevor der Nutzer die Unterhaltung beginnt, oder eine eindeutige Begrüßung im ersten Gesprächsschritt LL Rn. 33, 36 und 143.
Eine praxistaugliche Platzierung ist:
- auf der geöffneten Startansicht nahe am Eingabefeld,
- zusätzlich als erste Nachricht, wenn die Startansicht sonst leicht übersprungen wird,
- bei Sprache als gesprochene Ansage vor der ersten inhaltlichen Frage,
- bei selbstständig versendeten Agenten-Nachrichten am Anfang der Nachricht.
In den meisten gewöhnlichen Chats dürfte ein einzelner deutlicher Hinweis zu Beginn ausreichen. Eine dauerhaft sichtbare Kennzeichnung oder spätere Erinnerung kann sinnvoll sein, wenn ein Gespräch sehr lang, sensibel oder immersiv ist, sich an Kinder oder andere schutzbedürftige Personen richtet oder der Status des Gegenübers leicht vergessen wird. Wechselt das Gespräch von KI zu Mensch oder zurück, sollte die Oberfläche den neuen Zustand wahrheitsgemäß anzeigen.
Nicht ausreichend sind für sich allein ein Satz in den AGB, ein Link zur Datenschutzerklärung, eine versteckte Hilfeseite, unsichtbare Metadaten oder eine allgemeine Fußzeile wie „Auf dieser Website kommt KI zum Einsatz“. Sie ordnen die Information weder sicher dem Gespräch noch seinem Beginn zu LL Rn. 38.
Formulierungen, die Menschen sofort verstehen
Der Hinweis muss nicht die Architektur, das Sprachmodell oder alle Datenflüsse erklären. Er muss zuerst die einfache Frage beantworten: Spreche ich mit einem Menschen oder mit KI? Diese Vorlagen sind bewusst kurz und müssen an den tatsächlichen Ablauf angepasst werden:
| Situation | Barrierearme Formulierung |
|---|---|
| Webchat | „Du chattest mit einem KI-Assistenten von [Organisation].“ |
| Erste Chatnachricht | „Ich bin ein KI-Assistent, kein Mensch. Ich beantworte Fragen zu [Thema].“ |
| Voicebot | „Willkommen bei [Organisation]. Du sprichst jetzt mit einem KI-Assistenten.“ |
| Interaktiver Avatar | „Dieser digitale Avatar wird von einem KI-System gesteuert.“ |
| KI-Agent im Auftrag eines Unternehmens | „Diese Nachricht kommt von einem KI-Agenten im Auftrag von [Organisation].“ |
| Wechselmodell | „Zuerst hilft dir ein KI-Assistent. Auf Wunsch übernimmt ein Mensch.“ |
| Angebot für Kinder | „Ich bin kein Mensch. Ich bin ein Computerprogramm mit KI.“ |
Versprich keinen menschlichen Übergang, wenn es ihn nicht gibt. Behaupte auch nicht, jede Antwort werde von einem Menschen geprüft, wenn nur Stichproben stattfinden. Zusatzinformationen zu Zweck, Grenzen, Datenverarbeitung oder Beschwerdewegen können wichtig sein, sollten aber den eindeutigen ersten Satz nicht verdrängen.
Diese Varianten sind dagegen zu unklar, wenn sie allein stehen:
- „Digitaler Assistent“ oder „virtueller Berater“
- „Powered by LLM“ oder nur ein Modellname
- ein Roboter-, Stern- oder Zauberstab-Symbol ohne Erklärung
- ein menschlicher Vorname mit Porträt
- „Einige Funktionen dieser Website nutzen KI“
Die Leitlinien verlangen, die künstliche beziehungsweise nicht menschliche Natur ausdrücklich erkennbar zu machen LL Rn. 35 und 38. „KI-Assistent“ ist deshalb klarer als bloß „Assistent“.
So wird der Hinweis barrierearm
Art. 50 Abs. 5 verweist auf die jeweils anwendbaren Barrierefreiheitsanforderungen. Die Leitlinien stellen zugleich klar: Die KI-Verordnung schafft hier keinen zusätzlichen eigenen Anforderungskatalog LL Rn. 144. Für die konkrete Oberfläche sind diese Regeln eine robuste Umsetzung:
- Zeige den Hinweis als lesbaren Text, nicht nur über Farbe, Animation oder ein Icon.
- Platziere ihn nahe am Chat und in der normalen Lesereihenfolge; verstecke ihn nicht hinter einem Info-Symbol oder in einem aufklappbaren Menü.
- Verwende einfache, direkte Sprache und ausreichend gut erkennbare Schrift und Kontraste.
- Lass echten Oberflächentext auch von Hilfstechnik erfassen; Text in einem Bild oder nur in einem Hintergrundelement ist dafür ungeeignet.
- Sprich den Hinweis beim Voicebot hörbar aus. Ein nicht erklärter Signalton vermittelt nicht zuverlässig, dass eine KI antwortet.
- Kombiniere bei einem audiovisuellen Avatar sichtbaren Text und eine hörbare Aussage, wenn beide Kanäle zum Angebot gehören.
- Formuliere für Kinder altersgerecht und besonders eindeutig. Die Leitlinien nennen einfache Sprache und zugängliche Darstellung ausdrücklich.
Barrierearm heißt hier nicht länger. Meist ist der kurze Satz „Du chattest mit einem KI-Assistenten“ zugänglicher als ein juristischer Absatz. Ausführliche Informationen können dahinter verlinkt werden, solange der Kernhinweis selbst sichtbar bleibt.
Umsetzung in acht Schritten
- System einordnen: KI-System, Interaktionszweck, Direktheit und natürliche Person prüfen.
- Rolle festhalten: Anbieter, Betreiber und möglicher Drittanbieter vertraglich und technisch auseinanderhalten.
- Kanäle erfassen: Website, App, Telefon, Terminal, E-Mail und Avatar separat durchgehen.
- Hinweis formulieren: KI-Natur ausdrücklich nennen; Organisation und Zweck ergänzen, wenn das die Einordnung verbessert.
- Ersten Kontakt testen: Inkognito, mobil, mit Tastatur und — soweit relevant — mit Vorlesefunktion und ohne sichtbaren Bildschirm prüfen.
- Übergaben abbilden: Wechsel zwischen KI und Mensch in beiden Richtungen wahrheitsgemäß anzeigen.
- Ausnahmen dokumentieren: Wer sich auf Offensichtlichkeit stützt, hält Zielgruppe, Oberfläche, Stimme, Darstellung und Einsatzkontext fest.
- Integration erneut prüfen: Nach Redesigns, Widget-Updates, neuen Stimmen, Avatar-Wechseln und neuen Zielgruppen kontrollieren, ob der Hinweis noch rechtzeitig und wahrnehmbar ist.
Damit behandelst du die Chatbot-Kennzeichnung als Teil des Produkts statt als Fußnote. Die vier Pflichtblöcke und ihre unterschiedlichen Adressaten ordnet das Glossar zur Transparenzpflicht ein; diese Seite bleibt bewusst bei der direkten Mensch-KI-Interaktion aus Absatz 1.
