Transparenzpflicht für KI-Sprachagenten: Anrufern sagen, dass sie mit KI sprechen

Was hat sich am 2. August 2026 für KI-Sprachagenten geändert?

Artikel 50 der KI-Verordnung, Verordnung (EU) 2024/1689, gilt seit dem 2. August 2026. Sein erster Absatz macht die Transparenzpflicht für KI-Sprachagenten zu einer Gestaltungsanforderung: Ein System, das für das direkte Gespräch mit Menschen bestimmt ist, muss ihnen mitteilen, dass sie es mit KI zu tun haben, es sei denn, eine verständige Person würde das als offensichtlich erkennen. Derselbe Artikel regelt auch die Kennzeichnung synthetischer Audioinhalte, Hinweise auf Emotionserkennung und die Offenlegung von Deepfakes.

Am 20. Juli 2026 veröffentlichte die Europäische Kommission Leitlinien zu Artikel 50, angenommen als C(2026) 5054. Sie sind nicht verbindlich, legen aber die Auslegung der Kommission dar und nennen Sprachassistenten, Chatbots im Kundenservice und KI-Hotlines unter den erfassten Beispielen. Eine konsolidierte Fassung vom 27. Juli 2026 enthält die Änderungen durch die Verordnung (EU) 2026/1744, darunter die Übergangsregel zur Kennzeichnung, die die Leitlinien dem KI-Omnibus zuschreiben.

Dieser Beitrag ist eine allgemeine Information für Betriebs- und Kundenerlebnisteams und keine Rechtsberatung. Klären Sie mit Ihrer Rechtsabteilung, wie die Regeln für Ihre Systeme gelten.

Warum ist der Hinweis für Contact-Center wichtig?

Am Telefon ist die Ausnahme für Offensichtlichkeit am schwächsten. Anrufer sehen keine Oberfläche, synthetische Stimmen können menschlich klingen, und eine öffentliche Leitung erreicht alle, auch ältere Menschen und Menschen mit Behinderungen. Die Kommission begründet die Pflicht mit dem Schutz vor Identitätsanmaßung, Täuschung und Betrug und damit, dass Menschen besser einschätzen können, wie weit sie dem Gehörten vertrauen.

Die Sanktionen sind erheblich. Nach Artikel 99 Absatz 4 können Verstöße gegen Artikel 50 mit Geldbußen von bis zu 15 Millionen EUR oder, bei Unternehmen, bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist; für KMU gilt der niedrigere Betrag. Die Durchsetzung liegt überwiegend bei den nationalen Marktüberwachungsbehörden, und wer Gründe für die Annahme eines Verstoßes hat, kann sich bei ihnen beschweren.

Transparenzpflicht für KI-Sprachagenten: Anbieter oder Betreiber?

Artikel 50 Absatz 1 legt die Hinweispflicht dem Anbieter auf: wer den Sprachagenten entwickelt oder entwickeln lässt und ihn unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Ein Contact-Center, das den Agenten eines Herstellers in eigener Verantwortung nutzt, ist Betreiber, und auch der Betreiber hat Aufgaben.

Viele Unternehmen stehen auf beiden Seiten. Die Definition in Artikel 3 Nummer 3 umfasst auch Systeme, die man von Dritten entwickeln lässt, und die Leitlinien behandeln eine Organisation, die einen Chatbot selbst entwickelt und unter eigenem Namen betreibt, als dessen Anbieter. Dasselbe gilt für ein Unternehmen, das ein bestehendes generatives System verändert und unter eigenem Namen in Betrieb nimmt.

Betreiber haben eigene Pflichten. Handelt es sich bei einer Funktion um ein Emotionserkennungssystem, das Emotionen oder Absichten aus biometrischen Daten ableitet, muss der Betreiber Anrufer nach Artikel 50 Absatz 3 über dessen Betrieb informieren; die Leitlinien weisen zudem darauf hin, dass solche Systeme auch als hochriskant eingestuft sind. Eine Stimme, die einer realen Person ähnelt und als echt gelten könnte, kann ein Deepfake sein, den der Betreiber nach Artikel 50 Absatz 4 offenlegen muss. Davon getrennt verbietet Artikel 5 Absatz 1 Buchstabe f, mit KI die Emotionen von Beschäftigten am Arbeitsplatz abzuleiten, außer aus medizinischen Gründen oder Sicherheitsgründen.

Wann ist es offensichtlich, dass ein Anrufer mit KI spricht?

Bei einer Kundenhotline selten. Nach Artikel 50 Absatz 1 entfällt die Pflicht nur, wenn die KI-Natur aus Sicht einer „angemessen informierten, aufmerksamen und verständigen“ Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist. Die Kommission betont, dass die Ausnahme eng auszulegen ist und nur Fälle erfassen soll, in denen für ein durchschnittliches Mitglied des Publikums kaum noch Zweifel bleiben.

Die Prüfung beginnt mit der Frage, wer voraussichtlich anruft. Eine öffentliche Leitung erreicht Kinder, ältere Menschen, Menschen mit Behinderungen und Menschen mit geringer KI-Kompetenz, und nach den Leitlinien kann man sich ihnen gegenüber nicht auf die Ausnahme berufen. Eine menschlich klingende Stimme macht die KI-Natur weniger offensichtlich, und das allgemeine Wissen, dass es KI-Agenten gibt, reicht nicht aus.

Die Ausnahme kann in engen internen Situationen greifen, etwa im Beispiel der Leitlinien für einen Assistenten, den geschulte, KI-kompetente Beschäftigte für Personal- oder IT-Support nutzen. Dokumentieren Sie die Bewertung in jedem Fall; der Anbieter muss sie nachweisen können.

Wie gelingt der Hinweis am Telefon, ohne das Gespräch zu bremsen?

Setzen Sie einen klaren Satz in die Begrüßung, bevor der Anrufer etwas preisgibt, und nennen Sie darin ausdrücklich KI. Nach Artikel 50 Absatz 5 müssen die Informationen „in klarer und eindeutiger Weise“ spätestens bei der ersten Interaktion bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen. Für die Telefonie empfehlen die Leitlinien eine ausdrückliche gesprochene Aussage zu Beginn, in längeren Gesprächen ergänzt durch Erinnerungen.

Einige bequeme Lösungen reichen für sich genommen nicht: ein Hinweis nur in den AGB oder auf einer Webseite, Markierungen, die der Anrufer nicht wahrnehmen kann, ein allgemeiner Verweis auf einen Assistenten oder eine Aussage allein über die Technik. Ein Signalton kann blinden und sehbehinderten Anrufern helfen, genügt allein aber nicht.

Tempo ist eine Gestaltungsfrage, keine rechtliche. Verbinden Sie den Hinweis in einem Satz mit dem Zweck des Anrufs und wiederholen Sie ihn in der nächsten Antwort, wenn der Anrufer in die Begrüßung hineinspricht. Nach den Leitlinien genügt in der Regel ein deutlicher Hinweis.

Wiederholen Sie ihn, wenn es darauf ankommt. Nach den Leitlinien muss das System seine Natur offenlegen, sobald ein Anrufer danach fragt; in risikoreicheren Kontexten wie Beschwerden, Finanzberatung, Versicherungen und Gesundheit erwarten sie zudem Erinnerungen. Ein Agent, der im Auftrag eines anderen handelt, etwa bei einem ausgehenden Anruf, sollte auch sagen, für wen.

Was passiert, wenn das Gespräch an einen Menschen übergeht?

Sobald eine Person übernimmt und selbst spricht, interagiert der Anrufer nicht mehr direkt mit dem KI-System, sodass Artikel 50 Absatz 1 für diesen Teil des Gesprächs nicht gilt, ebenso wenig für Beschäftigte, die KI-Werkzeuge zur Unterstützung im Kundengespräch nutzen. Die Pflicht lebt wieder auf, sobald KI-generierte Sprache den Anrufer erneut erreicht.

Gemischte Abläufe verlangen Sorgfalt. KI-generierte Antworten in einem menschlichen Gespräch müssen weiterhin offengelegt werden, es sei denn, eine Person hat sie sorgfältig geprüft und ist die eigentliche Gesprächspartnerin, und die Leitlinien sehen Erinnerungen vor, wenn sich die Rolle des KI-Systems im Verlauf ändert. Eine Rückübergabe an den Agenten für die Zahlungserfassung oder eine Umfrage ist genau dieser Moment.

Machen Sie die Übergabe in beide Richtungen hörbar und geben Sie den Kontext weiter, damit der Anrufer nichts wiederholen muss. Artikel 50 verlangt nicht, dass Sie eine Person anbieten; das ist eine Serviceentscheidung und oft die einfachste Antwort für Anrufer, die lieber nicht mit einer Maschine sprechen.

Aufnahmen, Transkripte und synthetische Stimmen

Artikel 50 entscheidet nicht darüber, ob Sie ein Gespräch aufzeichnen dürfen; nach Artikel 50 Absatz 6 und den Leitlinien bleiben andere Transparenz- und Datenschutzpflichten bestehen. Artikel 50 Absatz 2 ergänzt eine Pflicht der Anbieter, synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar zu kennzeichnen und als KI-generiert erkennbar zu machen.

Nach den Leitlinien können Live-Inhalte, die sofort genutzt und nie aufgezeichnet, gespeichert oder weitergegeben werden, ausgenommen sein, wenn eine Kennzeichnung technisch nicht möglich ist und die Menschen erfahren, dass die Inhalte KI-generiert sind. Ein aufgezeichneter Anruf passt nicht zu dieser Beschreibung. Daraus ergeben sich drei Fragen an Ihren Anbieter.

Die Übergangsregel ist eng. Artikel 111 Absatz 4, eingefügt durch die Verordnung (EU) 2026/1744, gibt Anbietern generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, bis zum 2. Dezember 2026 Zeit, Artikel 50 Absatz 2 zu erfüllen. Für ein System, das zugleich interaktiv und generativ ist, gilt das laut Kommission nur für die Kennzeichnung. Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen nicht rückwirkend gekennzeichnet werden.

• Ist die Sprache des Agenten in gespeicherten Aufnahmen gekennzeichnet?. Fragen Sie, wie KI-generierte Audioinhalte gekennzeichnet und wie die Kennzeichnungen erkannt werden. Nach den Leitlinien ist eine Kennzeichnung ohne Erkennung unvollständig.
• Sind Gesprächszusammenfassungen erfasst?. Die Leitlinien zählen KI-generierte Zusammenfassungen von Texten zu den Ausgaben, die gekennzeichnet werden müssen, während reine Transkripte als Standardbearbeitung gelten.
• Ähnelt die Stimme einer realen Person?. Realistische Sprache mit der Stimme einer bestimmten Person muss laut Leitlinien gekennzeichnet werden, und eine überzeugend geklonte Stimme kann zudem ein Deepfake sein, den der Betreiber offenlegen muss.

Praxisbeispiel: die Abrechnungshotline eines Energieversorgers

Nehmen wir einen Energieversorger, der einen Sprachagenten von einem Hersteller für eingehende Abrechnungsanrufe und ausgehende Zahlungserinnerungen lizenziert. Der Agent nutzt eine vorgefertigte synthetische Stimme, Gespräche werden zur Qualitätsprüfung aufgezeichnet, und die Plattform bietet einen optionalen Stimmungswert.

• Rollen klären. Der Vertrag bestätigt, dass der gesprochene KI-Hinweis fest eingebaut ist, nicht abgeschaltet werden kann und nach jedem Release erneut getestet wird. Weil der Versorger den Agenten unter eigener Marke betreibt, lässt er von seiner Rechtsabteilung prüfen, ob er damit auch Anbieter ist.
• Gesprächseröffnungen formulieren. Eingehende Anrufe beginnen mit dem KI-Hinweis und dem Aufgabenbereich des Agenten. Ausgehende Erinnerungen sagen vor allen Sicherheitsfragen, dass ein KI-Agent im Auftrag des Versorgers anruft.
• Übergaben planen. Streitfälle und Anzeichen von Belastung gehen mit dem Gesprächskontext an eine Person. Kehrt der Anruf für die Kartenzahlung zum Agenten zurück, sagt der Agent das zuerst.
• Zusatzfunktionen prüfen. Das Team lässt den Stimmungswert ausgeschaltet, bis geprüft ist, ob es sich um ein Emotionserkennungssystem nach Artikel 3 Nummer 39 handelt, und fragt den Hersteller, wie aufgezeichnete synthetische Audioinhalte gekennzeichnet werden.

Häufige Irrtümer zum KI-Hinweis am Telefon

Die meisten Fehler entstehen, wenn der Hinweis als Rechtstext statt als Teil des Gesprächs behandelt wird.

• Ein Aufzeichnungshinweis genügt. Der Hinweis, dass Gespräche aufgezeichnet werden können, sagt nichts über KI. Der Anrufer muss hören, dass die Stimme selbst ein KI-Agent ist.
• Die Bezeichnung virtueller Assistent genügt. Die Leitlinien bezeichnen allgemeine Verweise auf einen Assistenten als unklar. Sagen Sie in einfachen Worten KI oder KI-Agent.
• Die Fristverlängerung verschafft Zeit für die Begrüßung. Die Frist bis zum 2. Dezember 2026 betrifft nur die maschinenlesbare Kennzeichnung nach Artikel 50 Absatz 2 für ältere Systeme. Der gesprochene Hinweis gilt seit dem 2. August 2026.
• Artikel 50 verlangt die Option, mit einem Menschen zu sprechen. Das tut er nicht. Ein Weg zu einer Person ist eine Serviceentscheidung, auch wenn die Leitlinien in risikoreicheren Kontexten wie Beschwerden besondere Sorgfalt erwarten.

Eine Checkliste für CX-Verantwortliche

Gehen Sie diese Liste für jeden KI-gestützten Sprachablauf vor und nach jedem Release durch und bewahren Sie die Ergebnisse als Nachweis auf.

• Bestandsaufnahme. Erfassen Sie jede Leitung, Kampagne und Menüführung, in der KI-Sprache einen Anrufer erreicht, einschließlich Überlaufrouten.
• Rollen. Halten Sie fest, wer für jeden Agenten Anbieter und wer Betreiber ist, warum die Ausnahme für Offensichtlichkeit greift oder nicht und wer laut Vertrag für den Hinweis verantwortlich ist.
• Eröffnung und Erinnerungen. Prüfen Sie, dass der KI-Hinweis abgespielt wird, bevor der Anrufer Angaben macht, Unterbrechungen übersteht und in jeder unterstützten Sprache vorliegt. Legen Sie Formulierungen für Rückübergaben, Beschwerden und die Frage fest, ob der Agent ein Mensch ist.
• Barrierefreiheit. Prüfen Sie Tempo, Verständlichkeit und alternative Kanäle anhand der Barrierefreiheitsvorschriften, die für Ihren Dienst gelten.
• Synthetische Inhalte und Betreiberpflichten. Fragen Sie, wie Audioinhalte, Zusammenfassungen und geklonte Stimmen gekennzeichnet werden, und prüfen Sie Emotions- und Biometriefunktionen anhand von Artikel 50 Absatz 3.
• Nachweise und Schulung. Testen Sie nach jeder Änderung an Modell, Stimme oder Prompt erneut und informieren Sie die Beschäftigten, die Übergaben annehmen. Artikel 4 verlangt von Anbietern und Betreibern, die KI-Kompetenz der Menschen zu fördern, die ihre Systeme bedienen.

Wie Bibha den Hinweisprozess unterstützt

Die Realtime-Sprachfunktionen von Bibha umfassen Hinweis- und Einwilligungskontrollen, mit denen Sie den von Ihrem Team freigegebenen Hinweis- und Einwilligungsprozess für Aufnahmen umsetzen, dazu die Übergabe an Menschen mit relevantem Kontext sowie zulässige Transkripte und Aufnahmen. PeachDesk, eine KI-Sprachagenten-Lösung auf Basis von Bibha, umfasst Telefonagenten für eingehende und ausgehende Anrufe, Stimmkonfiguration, Telefonie, ausgehende Kampagnen und Anrufanalysen.

Diese Funktionen helfen, vereinbarte Kontrollen umzusetzen; sie begründen für sich genommen keine Konformität. Ob eine Konfiguration Artikel 50 erfüllt, hängt vom konkreten System, den Skripten und der Betriebspraxis ab.

Fragen und Antworten

Quellen

1. European Commission. (2026, 20 July). Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the 'AI Act') (C(2026) 5054 final). https://ai-act-service-desk.ec.europa.eu/sites/default/files/2026-07/guidelines_on_the_implementation_of_the_transparency_obligations_for_certain_ai_systems_under_article_50_of_the_ai_act_bzptwqhk0ikg1dtlddap41psfy_131215.pdf (externe Website)
2. European Commission. (2026, 20 July). Commission publishes guidelines on transparency obligations for providers and deployers of certain AI systems. Shaping Europe's digital future. https://digital-strategy.ec.europa.eu/en/news/commission-publishes-guidelines-transparency-obligations-providers-and-deployers-certain-ai-systems (externe Website)
3. European Commission. (2026, 24 July). Transparency obligations under Article 50 of the AI Act [Questions and answers]. Shaping Europe's digital future. https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act (externe Website)
4. European Commission. (2026). Code of Practice on Transparency of AI-Generated Content. Shaping Europe's digital future. https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content (externe Website)
5. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). (2024). Official Journal of the European Union, L, 2024/1689. Consolidated text of 27 July 2026, including Regulation (EU) 2026/1744. EUR-Lex. https://eur-lex.europa.eu/eli/reg/2024/1689/2026-07-27/eng (externe Website)