Ihr KI-Bot darf nicht lügen

KI-Chatbots verbreiten viele Lügen. Das liegt in ihrer Technik begründet. Allerdings sind die Betreiber der KI-Chatbots hierfür verantwortlich und haften, wie jüngst das LG Hamburg in einem einstweiligen Verfügungsverfahren entschieden hat.

Wer haftet bei Rechtsverletzungen durch KI?

Die KI selbst ist nicht haftbar, da sie kein Rechtssubjekt ist und daher keine Trägerin von Rechten und Pflichten sein kann. Die KI kann somit nicht für Rechtsverstöße oder Schäden verantwortlich gemacht werden.

Es haften vielmehr die Personen, Unternehmen oder Organisationen, die die KI entwickeln, anbieten oder einsetzen:

• Anbieter von KI-Systemen haften für systemische Fehler ihrer KI nach produktrechtlichen Vorgaben, wenn diese Fehler zu Rechtsverstößen führen.
• Betreiber von KI-Systemen haften ebenfalls für durch die KI (mit-)verursachte Rechtsverletzungen. Diese Haftung kann sich – je nach Einzelfall – als Störerhaftung (vor allem auf Beseitigung und Unterlassung) oder im Falle weiterer Voraussetzungen auch als Täterschaft (mit möglicher Schadensersatzpflicht) darstellen.
• Wer KI-generierte Inhalte verwendet (z.B. KI-Töne oder Texte), kann selbst verantwortlich und haftbar sein, insbesondere wenn die Verwendung rechtswidrig erfolgt. Eine Haftung erfolgt dann typischerweise bei Vorsatz oder Fahrlässigkeit.

Was ist der KI-Dienst "Grok"?

Das Software-Tool namens "Grok" ist ein KI-Chatbot des Unternehmens xAI LLC, der u.a. in die Social-Media-Plattform X (früher Twitter) von Elon Musik integriert ist.

Grok ist quasi als Benutzer unmittelbar in die Plattform X.com integriert und ermöglicht anderen Nutzern beispielsweise eine Echtzeit-Faktenprüfung von Beiträgen auf der Plattform X, etwa durch Fragestellungen wie "Hey, @Grok, stimmt das?". Grok antwortet auf solche Fragen öffentlich mit einem eigenen Post bzw. Tweet unmittelbar im betroffenen Thread.

Worum ging es in einem Fall des LG Hamburg zu Grok?

Der KI-Chatbot Grok hatte auf entsprechende Anfrage als Information ausgegeben, und dadurch behauptet, die in der Politik engagierte Organisation Campact e.V. finanziere sich (auch) durch Steuermittel.

Tatsächlich aber wird der Verein weder durch Steuermittel finanziert noch steuerlich begünstigt, sondern wird ausschließlich aus privaten Spendenmitteln finanziert.

Hiergegen beantragte der Verein eine einstweilige Verfügung gegen das Unternehmen xAI LLC, den Betreiber von Grok.

Wie hat das LG Hamburg entschieden?

Das LG Hamburg hat nach Angaben von Campact e.V. die beantragte einstweilige Verfügung erlassen.

Soweit Hinweise hierzu vorliegen, hält das Gericht die vom KI-Chatbot Grok ausgegebenen Informationen über den Verein für unwahr, so dass insoweit durch Grok eine unwahre Tatsachenbehauptung verbreitet wird, wofür xAI LLC als Betreiber von Grok verantwortlich sei.

Was ist eine einstweilige Verfügung?

Eine einstweilige Verfügung ist ein gerichtlicher Eilbeschluss, mit dem ein Gericht vorläufig - also schnell und ohne langes Hauptverfahren - eine verbindliche und durchsetzbare Regelung trifft, um kurzfristig Rechte zu sichern oder Verletzungen zu stoppen, bevor später durch ein - in der Regel deutlich langwierigeres - Gerichtsverfahren (die sog. "Hauptsache") im Detail und endgültig über den Sachverhalt entschieden wird.

Bei Verbreitung von falschen Tatsachenbehauptungen im Internet und auf Social Media-Kanälen ist die Erwirkung von einstweiligen Verfügungen ein probates Mittel, um Rechtsverletzungen frühzeitig zu stoppen, bevor ein größerer, irreparabler Schaden für die Betroffenen entsteht.

Wie geht es in dem Rechtsstreit nun weiter?

Nach Erlass einer einstweiligen Verfügung kann das Verfahren weitergehen, muss es aber nicht. Dies hängt von den Entscheidungen der Beteiligten ab. xAI LLC könnte direkt gegen die einstweilige Verfügung vorgehen. Auch könnte das Hauptsacheverfahrens durchgeführt werden.

Typischerweise müssen Gerichte bei Verfahren wegen der Verbreitung falscher Tatsachenbehauptungen auch die verfassungsrechtlich garantierten Grundrechtspositionen der die Tatsachen Verbreitenden beachten. Bei Presseerzeugnissen im Print- und Online-Bereich ist dies die Pressefreiheit, bei Behauptungen durch natürliche Personen (z.B. Kommentare im Internet) ist dies die Meinungs- bzw. die Meinungsäußerungsfreiheit der Personen.

Der Betreiber eines KI-Chatbots kann sich allerdings weder auf die Presse- noch auf die Meinungsfreiheit berufen, so dass dessen Rechtsposition deutlich schwächer, also weniger schützenswert ist.

Was bedeutet dies für Betreiber von KI-Diensten?

Betreiber von KI-Chatbots sind für deren Output verantwortlich.

Verbreiten KI-Chatbots falsche Tatsachenbehauptungen über Personen oder Organisationen, können diesen Beseitigungs- und Unterlassungsansprüche zustehen, die diese auch gerichtlich durchsetzen können.

Für die Betreiber von KI-Chatbots bedeutet dies zum einen, dass sie sowohl organisatorisch als auch technisch sicherstellen müssen, außergerichtliche Forderungen und gerichtliche Verfügungen umsetzen zu können. Zum anderen bedeutet dies, dass jeder Output eines KI-Chatbots potentiell mit einem rechtlichen Risiko für den jeweiligen Betreiber verbunden ist.

Fragen zum Beitrag? Diskutieren Sie hierzu gerne mit uns in der Unternehmergruppe der IT-Recht Kanzlei auf Facebook.