KI-Inhalte im Online-Shop richtig kennzeichnen (Update)

KI-generierte Bilder, Videos und Stimmen halten zunehmend Einzug in Online-Shops und Werbung. Ab dem 02.08.2026 müssen kennzeichnungspflichtige KI-Inhalte als solche erkennbar gemacht werden.

Worum geht es rechtlich?

Die rechtliche Grundlage ist die KI-Verordnung (Verordnung (EU) 2024/1689). Sie sieht in Art. 50 besondere Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme vor.

1. Auslegungshilfen: Leitlinien und Verhaltenskodex

Für die Auslegung dieser Pflichten sind derzeit zwei Dokumente besonders wichtig:

• die von der EU-Kommission am 20.07.2026 inhaltlich gebilligte und veröffentlichte Fassung der Leitlinien zu Art. 50 KI-VO (Art. 96 Abs. 1 lit. d KI-VO) und
• der finale Verhaltenskodex zur Transparenz KI-generierter Inhalte vom 10.06.2026.

Ziel der Transparenzpflichten ist es, Täuschung, Identitätsmissbrauch, Desinformation, Manipulation in großem Stil und Betrug vorzubeugen und das Vertrauen in die Echtheit von Inhalten zu schützen (Erwägungsgründe 132 bis 136 KI-VO; ebenso der Leitlinienentwurf der EU-Kommission zu Art. 50, Rn. 9).

Die Transparenzpflichten gelten grundsätzlich ab dem 02.08.2026 (Art. 113 KI-VO). Für die hier relevante Pflicht, Deepfakes kenntlich zu machen (Art. 50 Abs. 4 KI-VO), bleibt es bei diesem Datum. Der Verfahrensstand der Leitlinien ändert daran nichts.

2. Was gilt für Online-Händler?

Für Online-Händler ist vor allem Art. 50 Abs. 4 KI-VO relevant. Die Vorschrift richtet sich an Betreiber von KI-Systemen.

Betreiber ist nach Art. 3 Nr. 4 KI-VO, wer ein KI-System in eigener Verantwortung verwendet. Ausgenommen sind nur natürliche Personen, die das System ausschließlich für persönliche und nicht berufliche Zwecke einsetzen. Wer gewerblich, beruflich oder freiberuflich handelt oder mit dem Einsatz regelmäßig wirtschaftliche Vorteile erzielt, kann sich auf diese Ausnahme nicht berufen (Leitlinien Rn. 19).

Ein Händler kann daher Betreiber sein, wenn er KI-generierte oder KI-manipulierte Bilder, Videos oder Stimmen im eigenen Shop, auf Marktplätzen oder in der Werbung einsetzt. Es kommt darauf an, wer den KI-Einsatz und dessen Zweck bestimmt. Eine technische Kontrolle über das System ist nicht erforderlich (Leitlinien Rn. 12).

Handelt es sich bei den verwendeten Inhalten um Deepfakes, muss offengelegt werden, dass die Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert wurden (Art. 50 Abs. 4 S. 1 KI-VO).

Nicht jedes KI-Bild ist kennzeichnungspflichtig

Eine allgemeine Pflicht, sämtliche KI-gestützten Shop-Inhalte zu kennzeichnen, enthält die KI-Verordnung nicht.

Für Händler kommt es vielmehr darauf an, ob ein eingesetztes Bild, Video oder Audio – etwa ein Produktbild, eine Modeldarstellung, eine Anwendungsszene oder eine künstliche Stimme – als Deepfake einzuordnen ist.

1. Wann liegt ein Deepfake vor?

Ein Deepfake ist nach Art. 3 Nr. 60 KI-VO ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Ein Deepfake muss einen hinreichenden Bezug zur Wirklichkeit haben. Der Einsatz von KI allein genügt nicht. Erfasst werden Inhalte, die etwas tatsächlich Existierendes oder realistisch Mögliches zeigen und dabei fälschlicherweise echt oder wahrheitsgemäß wirken.

Dafür muss eine deutliche Ähnlichkeit mit der dargestellten Person, dem Gegenstand, Ort, der Einrichtung oder dem Ereignis bestehen. Eine vollständige Übereinstimmung ist nicht erforderlich. Die Bewertung richtet sich nach einem objektiven Vergleich im konkreten Einzelfall (Erwägungsgrund 134 KI-VO; Leitlinien Rn. 113).

Fotorealismus ist ein wichtiges Indiz, genügt für sich allein aber nicht. Entscheidend ist der Gesamteindruck.

Zu berücksichtigen sind insbesondere

• der Grad der Ähnlichkeit,
• die Aussage der Darstellung,
• der vorgesehene und vorhersehbare Einsatz,
• das Präsentationsumfeld sowie
• die Personen, die den Inhalt voraussichtlich wahrnehmen, und deren Erwartungen

(Leitlinien Rn. 114).

2. Entscheidend ist der Eindruck beim Publikum

Maßgeblich ist die Wirkung auf das vernünftigerweise vorhersehbare Publikum. Eine Täuschungsabsicht des Händlers ist nicht erforderlich.

Dabei ist nicht nur auf einen durchschnittlichen Betrachter abzustellen. Können voraussichtlich auch Kinder, ältere Menschen oder Personen mit geringerer Digital- oder KI-Kompetenz den Inhalt wahrnehmen, ist deren erhöhte Täuschungsanfälligkeit zu berücksichtigen. Es genügt, wenn der Inhalt für diesen vorhersehbaren Teil des Publikums fälschlicherweise echt oder wahrheitsgemäß erscheint (Leitlinien Rn. 115).

Auch das Umfeld kann erkennen lassen, dass ein Inhalt nicht als echte Aufnahme gemeint ist. KI-generierte Hintergrundszenen, Spezialeffekte sowie technische Vor- und Nachbearbeitungen einer üblichen Filmproduktion werden regelmäßig nicht als authentische Wiedergabe tatsächlicher Vorgänge verstanden. Anders kann es bei vollständig KI-generierten Schauspielern, digitalen Abbildern realer oder verstorbener Personen, De-Aging oder simulierten Darbietungen liegen (Leitlinien Rn. 114).

Online-Händler können sich darauf allerdings nur selten berufen. Bei Produktbildern im Shop oder in der Werbung erwarten Verbraucher regelmäßig, dass die angebotene Ware zutreffend dargestellt wird.

3. Beispiele aus der Händlerpraxis

Als Deepfakes kommen insbesondere in Betracht:

• Ein KI-generiertes Produktbild, das das Produkt anders, hochwertiger oder attraktiver erscheinen lässt, als es tatsächlich ist,
• Eine realistisch erzeugte Person, die scheinbar ein Produkt benutzt oder empfiehlt, obwohl dies tatsächlich nicht geschehen ist,
• Ein realistischer synthetischer Avatar eines Unternehmensleiters, der scheinbar eine echte Ansprache oder Unternehmenserklärung abgibt, oder
• Eine künstlich erzeugte Stimme, die einer realen Person zugeschrieben werden kann und diese scheinbar eine Produktempfehlung aussprechen lässt.

Ein reales Produkt wird nicht allein deshalb Teil eines Deepfakes, weil der Hintergrund mit KI erzeugt wurde. Problematisch wird die Darstellung erst, wenn sie einen falschen Eindruck vom Aussehen, den Eigenschaften oder den Verwendungsmöglichkeiten des Produkts vermittelt.

Anders liegt es, wenn nicht das Produkt, sondern reale Personen, Orte oder Ereignisse den Echtheitseindruck prägen. Als Deepfake nennen die Leitlinien etwa ein KI-manipuliertes Bild zweier realer Profifußballer vor einem stadionähnlichen Gebäude – obwohl dort keine Produktaussage getroffen wird (Leitlinien Rn. 116 mit Beispielen).

Auch geringfügige KI-gestützte Nachbearbeitungen führen nicht automatisch zu einem Deepfake. Einzelheiten hierzu erläutern wir weiter unten.

Produktbilder und KI-gestützte Bildbearbeitung

Bei Produktbildern ist besondere Sorgfalt geboten.

Verbraucher verstehen ein Produktfoto regelmäßig als Abbildung der tatsächlich angebotenen Ware. Wird hierfür ein KI-generiertes oder KI-manipuliertes Bild verwendet, kann eine Kennzeichnungspflicht bestehen, wenn die Darstellung als Deepfake einzuordnen ist. Unabhängig davon darf das Bild keine unzutreffenden Eindrücke über das Produkt vermitteln.

1. Technische Optimierung oder inhaltliche Veränderung?

Nicht jede KI-gestützte Bearbeitung eines Produktbildes führt zu einem Deepfake.

Nach den Leitlinien haben insbesondere

• KI-gestützte Farbkorrekturen,
• Erweiterungen vorhandener Hintergründe,
• Anpassungen oder Ersetzungen von Hintergründen zu erkennbar ästhetischen Zwecken,
• die Anordnung bereits vorhandener Produkte und
• die Skalierung von Produktbildern

regelmäßig nur geringe Auswirkungen auf den Eindruck, ob die Werbung und das dargestellte Produkt echt oder wahrheitsgemäß erscheinen. Voraussetzung ist, dass die Bearbeitung das Produkt selbst und seine tatsächlichen Eigenschaften nicht verfälscht (Leitlinien Rn. 116).

Auch weitere geringfügige technische Anpassungen können unproblematisch sein. Dazu zählen etwa Rauschreduzierungen, leichte Belichtungskorrekturen, Schärfungen, Dateikomprimierungen oder das Entfernen unwesentlicher Hintergrunddetails.

Anders liegt es, wenn die KI das Produkt oder den Aussagegehalt des Bildes wesentlich verändert. Dies kommt insbesondere in Betracht, wenn

• Farbe, Material, Größe, Struktur oder Verarbeitung verändert werden,
• Bestandteile oder Zubehör ergänzt werden, die nicht zum Lieferumfang gehören,
• eine nicht vorhandene Nutzungssituation erzeugt wird,
• Personen, Gegenstände oder Orte hinzugeneriert oder entfernt werden oder
• ein Ergebnis dargestellt wird, das mit dem angebotenen Produkt tatsächlich nicht erreicht werden kann.

Nicht die verwendete Technik entscheidet über die Kennzeichnungspflicht, sondern das Ergebnis. Ein Deepfake kann vorliegen, wenn das veränderte Bild nach seiner Aussage, seinem Umfeld und den Erwartungen des Publikums fälschlicherweise als echt oder wahrheitsgemäß erscheint.

2. KI-generierte Produktbilder

Besonders kritisch sind vollständig KI-generierte Produktbilder.

Als Beispiel für einen Deepfake nennen die Leitlinien ein KI-generiertes Produktbild in der Werbung oder auf einer Verpackung, das über das tatsächliche Aussehen, die Eigenschaften oder die Verwendung des Produkts täuschen kann. Das betrifft insbesondere Bilder, die das Produkt attraktiver, hochwertiger oder anders erscheinen lassen, als es tatsächlich ist (Leitlinien Rn. 116).

Ein KI-generiertes Produktbild ist daher besonders problematisch, wenn es etwa

• eine hochwertigere Materialanmutung vermittelt,
• eine bessere Verarbeitung zeigt,
• die Größe oder Proportionen günstiger erscheinen lässt,
• nicht vorhandene Funktionen oder Bestandteile darstellt oder
• eine Wirkung oder Verwendungsmöglichkeit suggeriert, die das Produkt tatsächlich nicht besitzt.

In solchen Fällen kann sowohl eine Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-VO als auch eine wettbewerbsrechtliche Irreführung vorliegen. Eine Kennzeichnung als KI-Inhalt macht eine inhaltlich falsche oder irreführende Produktdarstellung nicht zulässig.

3. KI-generierte Hintergründe

Ein reales Produkt wird nicht allein deshalb zum Bestandteil eines Deepfakes, weil es vor einem KI-generierten Hintergrund gezeigt wird.

Die Leitlinien nennen als Beispiel ein reales Auto, das in einer Werbung vor einem KI-generierten Hintergrund und in einer KI-generierten Umgebung dargestellt wird. Solange die Werbung das Publikum nicht über das Fahrzeug selbst, sein tatsächliches Aussehen, seine Eigenschaften oder seine Verwendungsmöglichkeiten täuscht, liegt regelmäßig kein Deepfake vor (Leitlinien Rn. 116).

Anders liegt es, wenn der künstliche Hintergrund die Aussage über das Produkt beeinflusst. Kritisch ist dies etwa, wenn die Umgebung

• eine nicht vorhandene Größe oder Belastbarkeit suggeriert,
• eine besondere Eignung für extreme Einsatzbedingungen vermittelt,
• eine tatsächlich nicht bestehende Wirkung zeigt oder
• das Produkt hochwertiger oder leistungsfähiger erscheinen lässt.

Es kommt auf den Gesamteindruck der Werbung an.

4. Teilweise KI-veränderte Inhalte

Auch echtes Ausgangsmaterial kann durch eine teilweise KI-Bearbeitung zu einem Deepfake werden.

Dies ist etwa denkbar, wenn in ein reales Produktfoto nicht vorhandene Eigenschaften, Personen, Gegenstände oder Anwendungssituationen eingefügt werden und das Ergebnis fälschlicherweise als echte Aufnahme erscheint.

Eine teilweise KI-Bearbeitung führt nicht automatisch zu einer Kennzeichnungspflicht. Sie besteht nur, wenn das bearbeitete Ergebnis als Deepfake einzuordnen ist.

Für teilweise KI-veränderte Inhalte sieht Section 2 in Verbindung mit Annex I des freiwilligen Verhaltenskodexes den Icon-Typ „AI MODIFIED“ vor. Er kann verwendet werden, wenn menschlich erstellter Inhalt durch eine teilweise KI-Bearbeitung zu einem kennzeichnungspflichtigen Deepfake geworden ist.

Die Verwendung des Icons ist freiwillig. Sie ersetzt nicht die Prüfung, ob die konkrete Offenlegung klar und unterscheidbar im Sinne des Art. 50 Abs. 5 KI-VO erfolgt.

Müssen auch klassisch bearbeitete Bilder als KI-Inhalte gekennzeichnet werden?

Nein.

Die ab dem 2. August 2026 geltende Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-VO greift nur, wenn ein KI-System eingesetzt wurde. Wird ein Bild ausschließlich mit herkömmlichen Mitteln bearbeitet, etwa manuell freigestellt, retuschiert, montiert oder farblich korrigiert, entsteht dadurch kein kennzeichnungspflichtiger KI-Inhalt.

In der Praxis ist die Abgrenzung allerdings nicht immer eindeutig. Viele verbreitete Bildbearbeitungsprogramme greifen inzwischen auch bei vermeintlich klassischen Funktionen auf KI-Modelle zurück. Dies kann etwa beim Entfernen von Objekten, beim Ergänzen von Bildbereichen, beim Freistellen oder beim Entrauschen der Fall sein, ohne dass der KI-Einsatz stets deutlich erkennbar ist. Händler sollten daher prüfen, auf welcher technischen Grundlage die verwendete Funktion arbeitet.

Auch ohne Kennzeichnungspflicht sind herkömmliche Bildbearbeitungen nicht automatisch rechtlich unbedenklich. Wird ein Produktfoto manuell so verändert, dass etwa ein Kleidungsstück deutlich taillierter, eine Lampe heller, ein Möbelstück hochwertiger oder ein Accessoire größer erscheint, als es tatsächlich ist, kann die Darstellung nach § 5 Abs. 1, Abs. 2 Nr. 1 UWG irreführend sein.
#Virtuelle Models, Anwendungsszenen und Influencer#

Ein praktisch wichtiger Anwendungsfall sind künstlich erzeugte Personen sowie virtuelle Produkt- und Anwendungsszenen.

1. Virtuelle Models und KI-Personen

Werden Kleidung, Schmuck, Brillen, Kosmetik oder Accessoires an virtuellen Models präsentiert, kann der Eindruck entstehen, die Ware sei an einer realen Person fotografiert worden. Wirkt die Darstellung wie eine echte Aufnahme, kann sie als Deepfake nach Art. 3 Nr. 60 KI-VO einzuordnen und ab dem 2. August 2026 nach Art. 50 Abs. 4 KI-VO zu kennzeichnen sein.

Nicht erforderlich ist, dass eine bestimmte reale Person nachgebildet wird. Auch eine vollständig erfundene KI-Person kann als Deepfake gelten, wenn sie wie eine wirkliche Person erscheint und die Darstellung fälschlicherweise für eine authentische Aufnahme gehalten werden kann.

Erkennbar künstliche, cartoonhafte oder offensichtlich fantastische Figuren werden regelmäßig nicht erfasst. Ist eine virtuelle Figur Bestandteil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks, genügt nach Art. 50 Abs. 4 KI-VO eine Offenlegung in geeigneter Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Gewöhnliche Produktwerbung wird jedoch nicht allein durch den Einsatz einer virtuellen Figur zu einem solchen Werk.

Rechtlich besonders problematisch wird es, wenn eine KI-Person persönliche Produkterfahrungen, Empfehlungen oder Bewertungen vermittelt. Dadurch kann der falsche Eindruck entstehen, eine reale Person habe das Produkt tatsächlich verwendet und empfehle es aufgrund eigener Erfahrungen.

Ein Deepfake liegt besonders nahe, wenn eine bestimmte reale Person nachgebildet wird, etwa ein Influencer oder Unternehmensleiter, der scheinbar ein Produkt empfiehlt oder eine Erklärung abgibt, obwohl dies tatsächlich nicht geschehen ist.

2. Virtuelle Anwendungsszenen und Influencer

Auch künstlich erzeugte Anwendungsszenen können als Deepfakes kennzeichnungspflichtig sein.

Allein der Einsatz eines KI-generierten Hintergrunds führt jedoch nicht zwingend zu einem Deepfake. Entscheidend ist, ob die Darstellung einer wirklichen oder realistisch möglichen Person, einem Gegenstand, Ort, einer Einrichtung oder einem Ereignis ähnelt und fälschlicherweise als echte Aufnahme erscheint.

Unabhängig von der Kennzeichnungspflicht darf eine virtuelle Produktdarstellung nicht irreführend sein. Sie darf insbesondere keine falschen Eindrücke über Eigenschaften, Größenverhältnisse, Materialien, Wirkungen oder Verwendungsmöglichkeiten des Produkts vermitteln. Ein KI-Hinweis macht eine irreführende Darstellung nicht zulässig.

Besondere Vorsicht ist auch beim Einsatz virtueller Influencer geboten. Wirkt eine solche Figur wie eine reale Person und schildert sie scheinbar persönliche Produkterfahrungen, spricht Empfehlungen aus oder gibt Bewertungen ab, kann eine Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-VO bestehen.

Die Kennzeichnung muss spätestens bei der ersten Wahrnehmung des Inhalts klar und unterscheidbar erfolgen und den anwendbaren Barrierefreiheitsanforderungen entsprechen (Art. 50 Abs. 5 KI-VO).

Müssen KI-Motive auf Bekleidung, Accessoires und Papierwaren gekennzeichnet werden?

Viele Händler nutzen generative KI nicht nur für Produktbilder im Online-Shop, sondern auch für Motive, die auf T-Shirts, Hoodies, Taschen, Tassen, Postkarten, Notizbüchern oder anderen Produkten abgedruckt werden. Auch hier gilt: Nicht jedes KI-generierte Motiv muss allein deshalb gekennzeichnet werden, weil es mithilfe von KI erstellt wurde.

Maßgeblich ist, ob das Motiv als Deepfake im Sinne des Art. 3 Nr. 60 KI-VO einzuordnen ist. Dies kann der Fall sein, wenn es wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen hinreichend ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

1. Entscheidend ist der Echtheitseindruck

Regelmäßig nicht als Deepfakes einzuordnen sind abstrakte Muster, Ornamente, grafische Illustrationen, Comicfiguren, klar stilisierte Motive oder offensichtlich fantastische Darstellungen. Solche Motive erwecken regelmäßig nicht den Eindruck einer echten oder wahrheitsgemäßen Darstellung.

Anders kann es bei realitätsnahen Motiven liegen. Das gilt nicht nur, wenn tatsächlich existierende Personen, Orte oder Ereignisse nachgebildet werden. Auch eine vollständig erfundene, aber fotorealistisch wirkende Person, ein synthetisches KI-Model oder eine virtuelle Influencer-Figur kann kennzeichnungspflichtig sein, wenn die Darstellung fälschlicherweise wie eine echte Person oder Aufnahme wirkt.

2. Was gilt für künstlerische und kreative Motive?

Bei Motiven auf Bekleidung, Accessoires und Papierwaren wird es sich häufig um offensichtlich künstlerische, kreative, satirische oder fiktionale Werke handeln.

In diesem Fall entfällt die Offenlegungspflicht nicht vollständig. Sie darf jedoch in geeigneter Weise erfolgen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen. Ein Hinweis muss daher nicht zwingend unmittelbar in das Motiv selbst eingedruckt werden.

3. Wo sollte der Hinweis erscheinen?

Im Online-Shop sollte der Hinweis so platziert werden, dass Verbraucher ihn spätestens bei der ersten Wahrnehmung des kennzeichnungspflichtigen Motivs klar erkennen und diesem eindeutig zuordnen können. In Betracht kommen insbesondere ein Hinweis direkt am Produktbild, unmittelbar darunter oder an anderer gut sichtbarer Stelle im Produktangebot. Ein Hinweis erst am Ende einer längeren Produktbeschreibung ist dagegen rechtlich angreifbarer.

Art. 50 KI-VO enthält keine besonderen Vorgaben für Motive auf Bekleidung, Tassen, Papierwaren oder anderen Produkten. Der Hinweis muss aber grundsätzlich schon bei der ersten Wahrnehmung des kennzeichnungspflichtigen Motivs erkennbar sein.

Ein Hinweis nur im Online-Shop kann deshalb nicht genügen. Spätere Nutzer, Beschenkte, Kunden im stationären Handel oder andere Personen sehen das Motiv möglicherweise erst auf dem physischen Produkt.

Ist der Händler selbst Betreiber des KI-Systems, sollte der Hinweis daher auch am Produkt oder unmittelbar bei diesem angebracht werden. In Betracht kommen insbesondere ein Aufdruck oder ein dauerhaft verbundenes Etikett oder Anhänger. Ein Hinweis nur auf der Verpackung oder einem Einleger dürfte regelmäßig nicht ausreichen, weil spätere Betrachter ihn nicht sehen.

Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Motiven kann die erleichterte Offenlegung nach Art. 50 Abs. 4 UAbs. 1 Satz 3 KI-VO berücksichtigt werden. Der Hinweis darf dann so gestaltet und platziert werden, dass er die Darstellung oder den Genuss des Werks nicht unnötig beeinträchtigt.

Als Hinweis kommen etwa folgende Formulierungen in Betracht:

„Das Motiv wurde mithilfe künstlicher Intelligenz erstellt.“

oder bei einer inhaltlichen KI-Bearbeitung:

„Das Motiv wurde mithilfe künstlicher Intelligenz bearbeitet.“

Vorher-Nachher-Darstellungen, Videos und Stimmen

1. Vorher-Nachher-Darstellungen

Vorher-Nachher-Darstellungen sind insbesondere dann heikel, wenn die gezeigte Wirkung künstlich erzeugt, verstärkt oder nachträglich verändert wurde.

Wer Kosmetik, Reinigungs-, Pflege- oder Fitnessprodukte mit sichtbaren Erfolgen bewirbt, trifft damit regelmäßig eine Aussage über die Wirkung des Produkts. Wurde die dargestellte Veränderung mithilfe von KI erzeugt oder manipuliert, kann eine Kennzeichnungspflicht nach Art. 50 Abs. 4 UAbs. 1 KI-VO bestehen, wenn die Darstellung als Deepfake einzuordnen ist.

Das kann insbesondere der Fall sein, wenn sie wie eine echte Vorher-Nachher-Aufnahme erscheint, obwohl die gezeigte Wirkung tatsächlich nicht oder nicht in dieser Form eingetreten ist.

2. Videos und Stimmen

Auch KI-generierte oder manipulierte Videos und Stimmen können kennzeichnungspflichtig sein.

Bei Stimmen kommt es darauf an, ob sie einer wirklichen Person hinreichend ähneln und fälschlicherweise wie eine authentische Aufnahme wirken. Besonders kritisch sind nachgebildete Kundenstimmen, Expertenaussagen, Influencer-Empfehlungen oder Äußerungen von Unternehmensvertretern.

Als Beispiel für einen Ton-Deepfake nennen die Leitlinien der Europäischen Kommission zu den Transparenzpflichten nach Art. 50 KI-VO vom 20. Juli 2026 das Klonen der Stimmen der Stammsprecher eines Podcasts.

Eine synthetische Sprecherstimme ist nicht allein wegen ihres künstlichen Ursprungs als Deepfake einzuordnen. Eine Kennzeichnungspflicht kann aber auch dann bestehen, wenn keine bestimmte reale Person nachgebildet wird. Entscheidend ist, ob die Stimme einer wirklichen oder realistisch möglichen menschlichen Stimme ähnelt und fälschlicherweise wie eine authentische Aufnahme erscheint.

Bei Videos reicht ein Hinweis nur am Ende regelmäßig nicht aus. Nutzer können zu unterschiedlichen Zeitpunkten einsteigen, etwa bei Livestreams. Außerdem können einzelne Ausschnitte gesondert weiterverbreitet werden. Die Offenlegung muss daher spätestens bei der ersten Interaktion oder Exposition klar und unterscheidbar erfolgen.

Als praktische Orientierung sieht der freiwillige „Code of Practice on Transparency of AI-Generated Content“ vor, das Label zu Beginn eines Videos einzublenden und es – soweit möglich – in regelmäßigen Abständen sowie nach Unterbrechungen, etwa nach Werbepausen, zu wiederholen (Section 2, Measure 1.2).

Bei reinen Audioinhalten ohne Bildfläche sieht der Kodex zu Beginn einen kurzen und klar verständlichen gesprochenen Hinweis vor. Ist eine Bildfläche vorhanden, soll zusätzlich ein visuelles Label eingeblendet werden (Section 2, Measures 1.1 und 1.2).

KI-generierte Texte

Art. 50 Abs. 4 UAbs. 2 KI-VO kann auch KI-generierte oder KI-manipulierte Texte erfassen. Die Pflicht ist insoweit jedoch eng begrenzt: Erfasst sind nur Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Für den klassischen Online-Handel schränkt dies den Anwendungsbereich erheblich ein. Werbe-, Marketing- und Produktbeschreibungstexte werden regelmäßig nicht erfasst. Sie sollen in erster Linie den Absatz fördern und nicht die Öffentlichkeit über Angelegenheiten von allgemeinem Interesse informieren.

Auch Texte zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit fallen nicht automatisch unter die Vorschrift. Es kommt darauf an, ob sie nach ihrem Zweck und Veröffentlichungskontext die Öffentlichkeit informieren oder lediglich ein Produkt bewerben.

Eine Kennzeichnungspflicht kann daher insbesondere bei KI-generierten redaktionellen Beiträgen, Ratgebern, Warnhinweisen oder sonstigen Veröffentlichungen in Betracht kommen, die sich etwa mit öffentlicher Gesundheit, Verbraucher- oder Produktsicherheit, Umwelt- und Nachhaltigkeitsfragen oder anderen gesellschaftlich relevanten Themen befassen.

Die Offenlegungspflicht entfällt, wenn der KI-generierte oder KI-manipulierte Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für seine Veröffentlichung trägt. Erforderlich ist eine tatsächliche inhaltliche Prüfung; eine nur formale oder oberflächliche Durchsicht genügt regelmäßig nicht.

Der freiwillige „Code of Practice on Transparency of AI-Generated Content“ enthält hierzu nähere Orientierungshilfen (Section 2, Commitment 4).

Kreative Werbung ist nicht automatisch privilegiert

Art. 50 Abs. 4 UAbs. 1 S. 3 KI-VO sieht für Inhalte, die Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werks sind, eine erleichterte Form der Offenlegung vor. Für klassische Produktwerbung im Online-Shop lässt sich daraus aber keine allgemeine Ausnahme ableiten.

Fotorealistische Produktbilder, virtuelle Models und künstliche Anwendungsszenen dienen meist unmittelbar der Absatzförderung. Händler sollten daher nicht davon ausgehen, dass solche Darstellungen schon wegen ihrer Gestaltung als kreative Werke privilegiert sind.

Nach den Leitlinien genügt eine technische oder gestalterische Bearbeitung nicht. Erforderlich ist ein offensichtlich künstlerisches, kreatives, satirisches, fiktionales oder vergleichbares Werk. Ein kommerzieller Zweck schließt die Erleichterung zwar nicht aus. Rein funktionale Produktwerbung wird davon aber regelmäßig nicht erfasst.

So ist ein KI-Video, in dem simulierte Verbraucher ein Produkt benutzen, um andere zum Kauf zu bewegen, nicht allein deshalb als kreatives Werk privilegiert. Gleiches gilt regelmäßig für realitätsnahe KI-Bilder bekannter Personen, denen kein erkennbar fiktionaler, künstlerischer oder satirischer Zweck zukommt.

Greift die Erleichterung, entfällt die Offenlegungspflicht nicht vollständig. Art. 50 Abs. 4 UAbs. 1 S. 3 KI-VO verlangt weiterhin einen Hinweis darauf, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Die Offenlegung muss aber nur in geeigneter Weise erfolgen und darf so ausgestaltet werden, dass sie die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Rechte Dritter bleiben davon unberührt. Auch ein künstlerisch, kreativ, satirisch oder fiktional eingeordneter KI-Inhalt kann insbesondere Persönlichkeits-, Urheber-, Marken- oder Datenschutzrechte verletzen.

Der freiwillige „Code of Practice on Transparency of AI-Generated Content“ folgt demselben Ansatz: Auch bei künstlerischen, kreativen, satirischen oder fiktionalen Werken soll ein Icon oder ein gleichwertiger Hinweis verwendet werden. Dieser darf aber so platziert werden, dass der Werkcharakter nicht unnötig beeinträchtigt wird.

Wie muss der Hinweis aussehen?

Die Offenlegung muss klar und unterscheidbar sowie spätestens zum Zeitpunkt der ersten Interaktion oder Exposition erfolgen. Außerdem muss sie den anwendbaren Barrierefreiheitsanforderungen entsprechen (Art. 50 Abs. 5 KI-VO).

1. Klar, sichtbar und unmittelbar am Inhalt

Nach den Leitlinien muss der Hinweis gut wahrnehmbar, leicht verständlich und deutlich vom übrigen Inhalt abgesetzt sein. Ein Hinweis nur in einer Anleitung oder hinter mehreren Menüebenen genügt regelmäßig nicht.

Im Online-Shop gehört der Hinweis deshalb dorthin, wo Verbraucher den Bild-, Ton- oder Videoinhalt wahrnehmen. Ein versteckter Hinweis in den AGB, der Datenschutzerklärung oder allgemeinen Shop-Informationen genügt regelmäßig nicht.

Der Hinweis muss zudem für die angesprochenen Personen unmittelbar wahrnehmbar sein. Bei Bildern und Videos muss er daher grundsätzlich sichtbar, bei reinen Audioinhalten hörbar sein. Verbraucher dürfen nicht erst spezielle technische Hilfsmittel einsetzen oder gezielt nach der Information suchen müssen.

Eine ausschließlich maschinenlesbare Markierung, etwa durch Metadaten oder ein technisches Wasserzeichen, erfüllt die Betreiberpflicht aus Art. 50 Abs. 4 KI-VO daher nicht. Solche technischen Markierungen betreffen vor allem die Pflicht des Anbieters des KI-Systems nach Art. 50 Abs. 2 KI-VO. Händler werden dadurch nicht von ihrer eigenen Pflicht entlastet, kennzeichnungspflichtige Inhalte für Verbraucher sichtbar oder hörbar offenzulegen.

Wie auffällig der Hinweis gestaltet werden muss, hängt insbesondere davon ab, wie leicht der Inhalt für eine echte oder wahrheitsgemäße Darstellung gehalten werden kann und in welchem Kontext er eingesetzt wird.

2. EU-Icon-Set als praktische Orientierung

Ein konkretes Werkzeug bietet das offizielle EU-Icon-Set. Die Icons sind Bestandteil von Section 2 des freiwilligen „Code of Practice on Transparency of AI-Generated Content“ und stehen kostenlos sowie ohne Pflicht zur Quellenangabe als SVG- und PNG-Dateien zur Verfügung.

Das Icon-Set umfasst drei Icon-Typen:

• ein Basis-Icon mit dem Kürzel „AI“,
• das Icon „AI GENERATED“ für vollständig KI-generierte Inhalte und
• das Icon „AI MODIFIED“ für teilweise mit KI veränderte Inhalte.

Jeder dieser drei Icon-Typen steht in vier Gestaltungsvarianten zur Verfügung: schwarz, weiß, schwarz mit 50-prozentiger Transparenz und weiß mit 50-prozentiger Transparenz.

Nach Angaben der Kommission haben Nutzertests gezeigt, dass das Basis-Icon besser erkannt und verstanden wird, wenn es mit einem erläuternden Textlabel kombiniert wird.

Als Beispiele für teilweise KI-veränderte Inhalte nennt die Kommission unter anderem ein mithilfe von KI eingerichtetes Foto eines ursprünglich leeren Apartments sowie ein echtes Foto, in das mittels KI ein anderes Gesicht eingesetzt wurde.

3. Platzierung und Weiterverbreitung

Der freiwillige Verhaltenskodex sieht grundsätzlich vor, das Icon unmittelbar in den kennzeichnungspflichtigen Deepfake oder Text einzubetten. Für kreative Werke gilt eine Ausnahme. Eine unmittelbare Einbettung ist zudem nicht erforderlich, wenn eine gleichwertige Alternative zur Verfügung steht, etwa eine Einblendung in der Benutzeroberfläche.

Das Icon ist an einer Stelle anzubringen, an der es nicht durch andere Einblendungen verdeckt wird. Es muss auch sichtbar bleiben, wenn der Inhalt erneut geteilt oder heruntergeladen wird.

Auch Kennzeichnungswerkzeuge von Online-Marktplätzen oder Plattformen können grundsätzlich genutzt werden. Voraussetzung ist, dass die Offenlegung dadurch tatsächlich spätestens bei der ersten Exposition klar und unterscheidbar erfolgt und die Anforderungen an die Weiterverbreitung eingehalten werden.

4. Barrierefreiheit des Hinweises

Art. 50 Abs. 5 KI-VO schafft keine eigenständigen oder zusätzlichen Barrierefreiheitsanforderungen. Die Offenlegung muss vielmehr den Barrierefreiheitsvorgaben entsprechen, die für das jeweilige Angebot ohnehin gelten.

Für deutsche Online-Händler ist dabei insbesondere das Barrierefreiheitsstärkungsgesetz relevant. Fällt das Online-Angebot in dessen Anwendungsbereich, müssen auch Hinweise auf KI-generierte oder KI-manipulierte Inhalte barrierefrei gestaltet sein.

Welche Maßnahmen erforderlich sind, richtet sich nach dem Angebot, dem verwendeten Inhalt und den angesprochenen Personen. In Betracht kommen insbesondere:

• eine gut wahrnehmbare Größe,
• leicht verständliche Formulierungen,
• ein ausreichender Kontrast zwischen Hinweis und Hintergrund sowie
• eine technische Auszeichnung für Screenreader, etwa durch Alternativtexte oder ARIA-Labels.

Verweist ein Icon auf weiterführende Informationen, sollte klar erkennbar sein, dass zusätzliche Informationen verfügbar sind. Unterliegt das Angebot Barrierefreiheitsanforderungen, müssen auch diese Inhalte mit assistiven Technologien zugänglich und navigierbar sein.

Zeitlich begrenzte Einblendungen sollten lange genug sichtbar bleiben, damit sie auch von Personen mit kognitiven Einschränkungen oder einer langsameren Informationsverarbeitung erfasst werden können.

Begleitende Hinweise sollten möglichst einfach und eindeutig formuliert sein. Fachjargon, missverständliche Wendungen und unnötige Abkürzungen sollten vermieden werden.

Richtet sich das Angebot auch an Kinder, ältere Menschen oder andere besonders schutzbedürftige Gruppen, sind deren Verständniserwartungen und mögliche besondere Bedürfnisse bei der Gestaltung des Hinweises zusätzlich zu berücksichtigen.

Welche Folgen drohen bei Verstößen?

Verstöße gegen Art. 50 KI-VO können mit Geldbußen von bis zu 15 Mio. Euro oder bei Unternehmen bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt der jeweils niedrigere Höchstbetrag (Art. 99 Abs. 4 lit. g, Abs. 6 KI-VO).

Bei der Bußgeldbemessung sind insbesondere Art, Schwere und Dauer des Verstoßes, Vorsatz oder Fahrlässigkeit, die Zusammenarbeit mit den Behörden und die wirtschaftliche Leistungsfähigkeit des Unternehmens zu berücksichtigen. Mildernd kann sich auswirken, wenn ein Unternehmen einen als geeignet bewerteten Verhaltenskodex umgesetzt hat (Art. 99 Abs. 7 KI-VO).

Unternehmen, die dem freiwilligen „Code of Practice on Transparency of AI-Generated Content“ nicht beitreten, sollten dokumentieren, wie sie die Transparenzpflichten anderweitig erfüllen. Hierzu kann etwa eine Gap-Analyse dienen, welche die eigenen Maßnahmen mit den Vorgaben des Kodex vergleicht.

Auch eine Beschwerde kann ein behördliches Verfahren auslösen. Zuständig sind grundsätzlich die nationalen Marktüberwachungsbehörden, in bestimmten Fällen das Europäische KI-Büro oder der Europäische Datenschutzbeauftragte.

Daneben bleibt das Wettbewerbsrecht anwendbar. Erwecken KI-generierte oder KI-manipulierte Inhalte einen falschen Eindruck über ein Produkt, seine Eigenschaften, seine Wirkung oder seine Verwendung, drohen Abmahnungen und Unterlassungsansprüche nach §§ 8, 13 UWG in Verbindung mit §§ 5 und 5a UWG. Ein ordnungsgemäßer KI-Hinweis macht irreführende Werbung nicht zulässig.

Gilt die Kennzeichnungspflicht ab dem 02.08.2026 auch für bereits bestehende Angebote?

Nach den Leitlinien müssen Deepfakes, die bereits vor dem 02.08.2026 erzeugt oder manipuliert wurden, grundsätzlich nicht nachträglich gekennzeichnet werden.“

Die Kommission ermutigt zwar zu einer freiwilligen Kennzeichnung solcher Altinhalte. Dabei wird jedoch kein unverhältnismäßiger Aufwand erwartet. Händler müssen daher insbesondere nicht ihren gesamten Content-Bestand überprüfen oder bereits bedruckte Waren und Produktverpackungen nachträglich ändern.

Anders werden KI-generierte oder KI-manipulierte Texte behandelt: Wurde ein solcher Text zwar vor dem 02.08.2026 erzeugt, aber erst an oder nach diesem Tag veröffentlicht, gelten für diese Veröffentlichung bereits die Transparenzpflichten des Art. 50 Abs. 4 UAbs. 2 KI-VO.

Die Leitlinien treffen keine ausdrückliche Aussage dazu, wie ältere Deepfakes zu behandeln sind, wenn sie nach dem 02.08.2026 erneut oder in einem anderen Zusammenhang eingesetzt werden. Werden solche Inhalte erneut veröffentlicht, für neue Angebote oder Werbekampagnen verwendet oder wesentlich verändert, sollte ihre Kennzeichnungspflicht daher vorsorglich erneut geprüft werden.

Fazit

Nicht jeder KI-Einsatz führt zu einer Kennzeichnungspflicht. Bei Bildern, Videos und Tonaufnahmen kommt es vor allem darauf an, ob das vorhersehbare Publikum den Inhalt fälschlich für echt oder wahrheitsgemäß halten kann.

Online-Händler sollten insbesondere fotorealistische Produktbilder, virtuelle Models, künstliche Anwendungsszenen und nachgebildete Stimmen prüfen. Kennzeichnungspflichtige Inhalte müssen spätestens bei der ersten Wahrnehmung klar als KI-generiert oder KI-manipuliert erkennbar sein.

Vor dem 02.08.2026 erzeugte oder manipulierte Deepfakes müssen grundsätzlich nicht rückwirkend gekennzeichnet werden. Für ältere Inhalte, die nach diesem Zeitpunkt erneut eingesetzt oder wesentlich verändert werden, enthalten die Leitlinien keine ausdrückliche Regelung. Ihre Kennzeichnungspflicht sollte deshalb vorsorglich erneut geprüft werden.