Neue Abmahnfalle KI-Chatbot

Künstliche Intelligenz unterstützt inzwischen viele Online-Händler im Alltag. Doch KI ist kein rechtsfreier Raum, was ein aktuelles Urteil des OLG Hamm in Bezug auf die Haftung des Webseitenbetreibers für falsche Aussagen eines KI-Chatbots zeigt.

Worum geht es?

Gerade im Bereich des Kundensupports gibt es bereits zahlreiche, KI-basierte Lösungen, die Online-Händlern den Alltag erleichtern und dabei helfen, Kosten einzusparen.

Sehr weit verbreitet sind inzwischen KI-Chatbots, die von Webseitenbetreibern auf deren Webseiten integriert werden, um einen direkten, jederzeit verfügbaren Support für Interessenten und Kunden ohne jeden Personaleinsatz zu ermöglichen.

KI-Chatbots lassen sich gut als erste Kommunikationsschnittstelle einsetzen, egal ob zum Interessent, Kunden oder Patient.

Jedenfalls klassischer „First-Level-Support“ kann damit weitgehend automatisiert abgehandelt werden. KI hat inzwischen Einzug in die Kundenkommunikation vieler Unternehmen gehalten und ersetzt damit klassische, mitarbeiterbasierte Kommunikationskanäle wie Mitarbeiterchats, Kontaktformularanfragen, Emails oder das Telefon.

Immer weitere Verbreitung finden auch individuell auf den jeweiligen Anwendungsfall trainierte und abgestimmte sowie lernfähige Anwendungen, die den Anfragenden auch mit nicht nur generischen, sondern spezifischen, anbieterrelevanten Informationen versorgen können, etwa hinsichtlich der Eigenschaften des Anbieters bzw. des angebotenen Produkts, z.B. in Bezug auf Qualifikationen oder Zertifizierungen, zu Verfügbarkeiten, Preisen oder gar den rechtlichen Rahmenbedingungen.

Bei der Nutzung von KI-Chatbots wird sich dann schnell ins rechtliche „Fettnäpfchen“ gesetzt, da der Chatbot oftmals entweder Aussagen trifft, die in der Sache falsch sind, und damit gegenüber Interessenten bzw. Kunden als irreführend anzusehen sind oder aber Ergebnisse liefert, die in der Sache zwar zutreffend sind, aber auch rechtlichen Gründen nicht zulässig sind.

Die spannende Frage dabei: Haftet der Webseitenbetreiber bzw. Online-Händler, der einen solchen „bösen“ Chatbot betreibt, für dessen Verfehlungen?

OLG Hamm: Betreiber haften für falsche Aussagen von KI-Chatbots

Das Oberlandesgericht Hamm hat mit seinem aktuellen Urteil vom 12.05.2026 zum Az.: 4 UKl 3/25 klargestellt, dass ein Unternehmen, welches einen KI-Chatbot auf seiner Webseite einsetzt, für dessen falsche bzw. irreführende Angaben in vollem Umfang haften muss.

Das Unternehmen muss sich nach Ansicht des Gericht die Aussagen des Chatbots als eigene geschäftliche Handlung zurechnen lassen.

Konkret ging es im Verfahren vor dem OLG Hamm um den folgenden Fall:

Ein Unternehmen, welches Leistungen im Bereich der ästhetischen Medizin anbietet, nutzte auf der Unternehmenswebseite einen KI-unterstützen Chatbot. Über diesen konnten Interessenten Termine buchen und Fragen zum Unternehmen bzw. zu dessen Leistungen stellen.

Das Problem: Der Chatbot lieferte auf entsprechende Nachfrage zu den Facharztbezeichnungen der bei diesem Unternehmen tätigen Ärzten Auskünfte, die falsch waren. Entweder wurden Facharztbezeichnungen als bestehend genannt, die von den Ärzten gar nicht geführt wurden oder es wurden solche Facharztbezeichnungen genannt, die in der genannten Form schon gar nicht existieren.

Das missfiel der Verbraucherzentrale NRW, welche das Unternehmen daraufhin wegen irreführender Werbeaussagen abmahnte.

Nachdem auf die ausgesprochene Abmahnung hin keine Unterwerfung des Unternehmens erfolgte, ging die Verbraucherzentrale NRW gerichtlich vor. Dies war geboten, weil keine Unterlassungserklärung abgegeben wurde.

Die (erfolgte) Deaktivierung des Chatbots auf der Arztwebseite in Folge der Abmahnung war nicht ausreichend, um eine Wiederholungsgefahr zu beseitigen.

Das OLG Hamm entschied dazu nun, dass die unzutreffenden Aussagen des eingesetzten KI-Chatbots in Bezug auf die bestehenden Facharztbezeichnungen wie eigene Aussagen des Unternehmens zu behandeln sind und damit eine unzulässige geschäftliche Handlung darstellen, die abmahnbar war und zu unterlassen ist.

Die unzulässigen Aussagen des Chatbots sind nach Ansicht der Hammer Richter dem Ärzte-Unternehmen als eigene geschäftliche Handlungen zuzurechnen. Das Unternehmen versuchte sich zu verteidigen, indem es ausführte, der genutzte Chatbot sei mit zutreffenden Daten trainiert worden. Dem OLG Hamm reicht dies jedoch ausdrücklich nicht. Denn selbst bei sorgfältiger Auswahl und Aufbereitung von Trainingsdaten entbinde dies nicht von der Verantwortung für die Richtigkeit der konkreten Chatbot-Ausgabe im Einzelfall.

Damit konnte die Verbraucherzentrale NRW das Unternehmen erfolgreich gerichtlich auf Unterlassung in Anspruch nehmen.

Die Entscheidung des OLG ist derzeit noch nicht rechtskräftig. Es wurde vom Senat aufgrund neuer rechtlicher Fragen zum Thema KI-Chatbots die Revision zum Bundesgerichtshof (BGH) zugelassen.

Warnung: Volle Verantwortlichkeit für Chatbot-Aussagen!

Die Rechtsprechung des OLG Hamm ist ein deutlicher Warnschuss für Webseitenbetreiber und zeigt:

Webseitenbetreiber, die einen KI-Chatbot im Einsatz haben, haften uneingeschränkt in wettbewerbsrechtlicher Hinsicht für dessen Aussagen. Selbst wenn der Betreiber des Chatbots diesen mit zutreffenden Daten trainiert, entbindet ihn dies nicht für den Fall der typischen „KI-Halluzination“, wenn der Chatbot dazu dennoch im Einzelfall eine falsche bzw. irreführende Aussage liefert.

In rechtlicher Hinsicht ist ein vom Webseitenbetreiber implementierter KI-Chatbot bezüglich seiner Aussagen also nicht anders zu behandeln als ein Mitarbeiter, der Artikelbeschreibungen erstellt oder Werbung gestaltet.

Da wettbewerbsrechtlich verschuldensunabhängig auf Unterlassung gehaftet wird, kommt es auch nicht darauf an, ob den Webseitenbetreiber in Sachen Auswahl, Einbindung und Überwachung des KI-Chatbots ein Verschulden trifft.

Wo droht die größte Gefahr?

Wer als Webseitenbetreiber bzw. Online-Händler einen KI-Chatbot einsetzt oder zumindest den Einsatz plant, muss sich also Gedanken machen, wie er diesem Problem Herr wird.

Letztlich gilt in Sachen „Bot“ nichts anderes, als für die Gestaltung der Webseite bzw. Angebote selbst.

Mit die größte Gefahr dürfte dort lauern, wo es explizite Werbeverbote gibt.

So etwa beim Verkauf von Lebensmitteln, wo eine gesundheitsbezogene Werbung grundsätzlich und eine krankheitsbezogene Werbung immer untersagt ist.

Gibt der Chatbot dann auf die Frage „Ist der Kaffee X bekömmlich“ als Antwort „Ja, der Kaffee X ist bekömmlich“ oder auf die Frage „Hilft der Multivitaminsaft Y bei Erkältung“ die Antwort „Ja, der Multivitaminsaft ist auch zur Einnahme bei einer Erkältung geeignet“, ist das wettbewerbsrechtlich hoch problematisch.

Besonders kritisch zu sehen sind ebenfalls Aussagen von Chatbots zu rechtlichen Rahmenbedingungen.

Etwa dann, wenn die KI dem Kunden gegenüber Aussagen zu rechtlich komplexen Themen wie Gewährleistung oder Widerrufsrecht treffen kann. Hier ist es sehr wahrscheinlich, dass die KI-generierte Auskunft entweder rechtlich fehlerhaft oder in Widerspruch zu den vertraglich, etwa in AGB oder der Widerrufsbelehrung getroffenen Regelungen, steht, mithin also irreführend ist.

Große Gefahr droht ferner in Bezug auf bekannte „Abmahnschlagworte“, wie etwa der Werbung mit einem versicherten oder unversicherten Versand, der Werbung mit einer Garantie oder Angaben zu Prüfungen, Tests und Zertifizierungen, wie etwa „CE geprüft“ oder „Testsieger“.

Fazit

Technische Delegation schützt nicht vor rechtlicher Verantwortung!

Wer als Betreiber eine Webseite, etwa eines eigenen Online-Shops, einen KI-basierten Chatbot für die geschäftliche Kommunikation mit (potentiellen) Kunden nutzt, der muss sich dessen Aussagen in wettbewerbsrechtlicher Hinsicht vollumfänglich zurechnen lassen, so zumindest das OLG Hamm.

Damit gilt: Das, was beim Chatbot „rauskommt“ wird so behandelt, als hätte es der Webseitenbetreiber selbst geäußert. Ist die Aussage falsch oder zumindest irreführend, besteht eine Abmahngefahr. Dies gilt jedenfalls dann, wenn die Aussage des Chatbots relevant für eine geschäftliche Entscheidung des Anfragenden ist.

Vorliegend waren dies Angaben zur beruflichen Qualifikation des Anbieters. Dies dürfte aber ohne Weiteres auf Angaben zu Beschaffenheit, Preisen oder Verfügbarkeit der angebotenen Waren, zur Reputation des Anbieters, zu rechtlichen Rahmenbedingungen usw. übertragbar sein.

KI-Chatbots stellen in wettbewerbsrechtlicher Hinsicht folglich eine nicht unerhebliche Gefahrenquelle für den Betreiber dar.

Dies gilt umso mehr, weil das „Repetoire“ der Chatbots in der Regel weder in allen Details bekannt noch statisch ist, sondern zumeist dynamisch, da lernfähig und folglich gar nicht vollständig beherrschbar sein dürfte.

Das Urteil des OLG Hamm ist daher ein klares Warnsignal an Webseitenbetreiber, die Chatbots einsetzen und erhöht damit stark den Druck, entsprechende Systeme rechtssicher zu konfigurieren und engmaschig zu überwachen.

Anders als statischer Inhalt auf der Webseite, etwa Beschreibungstexte für die angebotenen Waren, lassen sich potentielle Aussagen von Chatbots im Vorfeld in vielen Fällen auch gar nicht umfänglich überprüfen bzw. „scannen“ lässt. So dürften in der Praxis viele Schwachstellen der eingesetzten Chatbots zunächst gar nicht auffallen. Auch durch Updates des Chatbot-Systems droht die Gefahr, dass sich das Antwort-Repertoire plötzlich (ungewollt) erweitert.

Damit gilt, dass Webseitenbetreiber das Antwort-Repertoire eines eingesetzten Chatbots so weit wie nur möglich proaktiv prüfen sollten. Bei „lernenden“ Systemen sind laufende Kontrollen ein Muss. Ferner sollten dem Chatbot genaue Grenzen gesetzt werden, was er beantworten darf und ab wann zur Kommunikation mit einem Menschen übergeleitet wird. Gerade etwa bei Auskünften zu rechtlichen Rahmenbedingungen sollten der Chatbot an die Zügel genommen werden.

In jedem Fall bleibt festzuhalten, dass KI-Chatbots leider nicht nur eine Arbeitserleichterung und Kosteneinsparung bieten, sondern zugleich ein erhebliches Haftungsrisiko schaffen und daher ein hohes Maß an dauerhafter Kontrolle erfordern. Sie sind damit gerade keine „Selbstläufer“.

Viele Abmahnungen werden sich in Zukunft nicht mehr (nur) auf den klassischen Content von Webseiten, wie etwa Angebotsbeschreibungen und Rechtstexte erstrecken, sondern auch (dynamische) Aussagen von Chatbot-Systemen zum Gegenstand haben.