KI-Stimme ist nicht gleich Deepfake

Nicht jede KI-generierte Stimme muss allein deshalb gekennzeichnet werden, weil sie künstlich erzeugt wurde. Entscheidend ist insbesondere, ob ein sogenannter Deepfake vorliegt.

Das kann bei Audioinhalten der Fall sein, wenn ein KI-erzeugter oder manipulierter Inhalt einer bestehenden oder plausibel existierenden Person stark ähnelt und beim Publikum fälschlicherweise als authentisch oder wahr erscheinen kann.

Für die Audiowerbung bedeutet das: Eine generische synthetische Stimme, die keiner konkreten Person erkennbar nachempfunden ist, fällt grundsätzlich nicht allein wegen ihrer künstlichen Erzeugung unter die Offenlegungspflicht für Deepfakes.

Anders kann es bei einer geklonten oder erkennbar imitierten Stimme einer realen Person sein. Wenn der Eindruck entstehen kann, diese Person habe die Aussage tatsächlich selbst gemacht, kann eine Offenlegungspflicht nach Artikel 50 Absatz 4 bestehen. Das gilt grundsätzlich auch dann, wenn die betreffende Person der Nutzung ihrer Stimme zugestimmt hat.

Die Einwilligung kann also für die rechtmäßige Nutzung der Stimme wichtig sein, ersetzt aber nicht automatisch die Transparenzpflicht nach dem AI Act.

Was Artikel 50 verlangt

Der EU AI Act unterscheidet zwischen zwei unterschiedlichen Pflichten:

Anbieter von KI-Systemen müssen dafür sorgen, dass synthetische Audio-, Bild-, Video- und Textinhalte grundsätzlich maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.

Davon zu unterscheiden ist die Offenlegungspflicht für Deepfakes. Wer ein KI-System beruflich unter eigener Verantwortung einsetzt und damit einen Deepfake erzeugt oder verbreitet, muss dessen künstlichen oder manipulierten Charakter gegenüber dem Publikum klar offenlegen.

Für Radiospots ist diese Unterscheidung besonders wichtig: Eine technische, maschinenlesbare Kennzeichnung einer Audiodatei ist für das Publikum nicht hörbar. Sie ersetzt deshalb bei einem Deepfake nicht den erforderlichen Hinweis im ausgestrahlten Inhalt.

Die Transparenzpflicht nach Artikel 50 gilt seit dem 2. August 2026. Für bestimmte technische Kennzeichnungspflichten von Anbietern besteht eine Übergangsregelung bis zum 2. Dezember 2026. Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen nicht rückwirkend gekennzeichnet werden.

Wann liegt ein Audio-Deepfake vor?

Für die praktische Prüfung helfen drei Fragen:

Sind diese Voraussetzungen gemeinsam erfüllt, spricht dies für einen Deepfake im Sinne des Artikels 50 Absatz 4.

Dabei geht es nicht ausschließlich um Prominente. Auch die erkennbare Nachahmung einer weniger bekannten oder plausibel existierenden Person kann relevant sein. Entscheidend sind die konkrete Ähnlichkeit, der Inhalt der Aussage und der Kontext, in dem der Audioinhalt ausgestrahlt wird.

Eine normale technische Bearbeitung einer echten Aufnahme, etwa Rauschunterdrückung oder eine Lautstärkeanpassung, ist davon zu unterscheiden. Anders kann es aussehen, wenn mithilfe von KI neue Wörter oder Sätze in der Stimme einer Person erzeugt werden.

Wie muss ein Audio-Deepfake gekennzeichnet werden?

Der künstliche oder manipulierte Charakter muss spätestens bei der ersten Wahrnehmung klar und verständlich offengelegt werden. Bei einem Radiospot bedeutet das: Der Hinweis muss hörbar und ohne technische Hilfsmittel wahrnehmbar sein.

Ein bestimmter Wortlaut ist nicht vorgeschrieben. Möglich wären beispielsweise:

·         „Dieser Spot enthält KI-generierte Inhalte.“

·         „Die folgende Stimme wurde künstlich erzeugt.“

Ein kaum hörbarer oder stark beschleunigter Hinweis genügt dem Transparenzgedanken nicht. Bei längeren Formaten kann eine Wiederholung sinnvoll sein.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke und Programme sieht der AI Act eine besondere Regelung vor. Ob diese Ausnahme auf einen konkreten Werbespot anwendbar ist, sollte im Einzelfall geprüft werden.

Wer ist verantwortlich?

Für die Offenlegung gegenüber dem Publikum ist grundsätzlich derjenige verantwortlich, der das KI-System beruflich unter eigener Verantwortung einsetzt. Je nach Produktionsprozess kann das beispielsweise das werbende Unternehmen oder die beauftragte Agentur sein.

Deshalb sollte die Frage der Kennzeichnung bereits im Briefing geklärt werden:

Wird eine KI-Stimme eingesetzt und ist sie generisch oder einer realen Person nachempfunden?

Werden reale Personen imitiert oder genannt?

Entsteht der Eindruck einer persönlich eingesprochenen Aussage?

Liegen Einwilligungen und Nutzungsrechte vor?

Ist ein hörbarer Hinweis erforderlich?

Wer fügt ihn ein und prüft die finale Fassung?

Was bedeutet das für den more KI Spot Creator?

Auch für Spots aus dem more KI Spot Creator gilt dieselbe Logik wie für andere Audioproduktionen.

Bei der Stimmauswahl sollte darauf geachtet werden, keine konkrete reale Person in einer Weise zu imitieren, die beim Publikum den Eindruck einer authentischen persönlichen Aussage erzeugen kann. Auch der Text sollte nicht den Eindruck erwecken, eine reale Person habe den Spot persönlich eingesprochen oder das beworbene Produkt tatsächlich empfohlen, wenn dies nicht der Fall ist.

Falls ein Transparenzhinweis erforderlich ist, sollte er frühzeitig eingeplant werden, damit Wortlaut, Platzierung und Spotlänge abgestimmt werden können.

KI nutzen, transparent kommunizieren

Die entscheidende Frage lautet:

Kann das Publikum fälschlicherweise glauben, eine reale Person habe diese Stimme oder Aussage authentisch abgegeben?

Wenn die Voraussetzungen eines Deepfakes erfüllt sind, gehört eine klare hörbare Offenlegung in die Produktionsplanung.

So lässt sich KI auch in der Audiowerbung schnell, flexibel und kosteneffizient einsetzen – ohne die Transparenz gegenüber dem Publikum aus dem Blick zu verlieren.

Du möchtest KI für Deine Audiowerbung nutzen?
Dann probiere den more KI Spot Creator aus oder sprich mit unserem Team.

Quellen und weiterführende Informationen:

EU AI Act – Verordnung (EU) 2024/1689, insbesondere Art. 3 Nr. 60, Art. 50 und Art. 99 Abs. 4

Europäische Kommission: Leitlinien zu den Transparenzpflichten nach Artikel 50, finale Fassung Juli 2026

Europäische Kommission: Code of Practice on Transparency of AI-generated Content

Europäische Kommission: Fragen und Antworten zu Artikel 50