Keine gute Idee: Mit KI zum rechtlichen KO

Der KI-Hype macht auch vor dem juristischen Bereich nicht halt. Dass dabei (derzeit) noch einiges schiefgehen kann, zeigt ein aktueller Fall.

Worum geht es?

Künstliche Intelligenz soll Hautkrebs besser erkennen können als Dermatologen, sie soll komplexe Vertragswerke oder Schriftsätze schneller und besser verstehen bzw. erstellen können als Rechtsanwälte und ganz generell wird prophezeit, dass die KI künftig Millionen von Jobs überflüssig machen wird.

Die Technik hat gewaltige Fortschritte gemacht und wird laufend verbessert. Gerade im rechtlichen Bereich ist jedoch zu beobachten, dass KI-Modelle in vielen Fällen schlicht und ergreifend Unsinn als Ergebnis liefern.

Hat der Nutzer dann selbst keinerlei juristische Fachkenntnisse, kann also nicht als menschliche Kontrollinstanz fungieren, weil es ihm an der Sachkunde fehlt, gelangt entsprechender rechtlicher Nonsens immer öfter in Schreiben an Vertragspartner, Gegner, Behörden usw.

Das kann dann schnell nach hinten losgehen, wie ein aktueller Fall zeigt.

Fußballverein schießt sich mittels KI-Schriftsatz ins Abseits

Was also ist passiert?

Der Fußballregionalligist FC Carl Zeiss Jena hatte Ärger wegen zündelnder Fans.

Deswegen musste er sich vor dem Verbandsgericht des Nordostdeutschen Fußballverbandes e.V. verantworten.

Aufgrund des Einsatzes von Pyrotechnik der eigenen Fans setzte das Sportgericht eine Strafe von 18.400 Euro zzgl. eines Aufschlags von 20% wegen unsportlichen Verhaltens der Fans bei einem Fußballspiel gegen den Verein fest.

Hiergegen ging der FC Carl Zeiss Jena in Berufung. Im Ergebnis weitgehend erfolglos.

Dafür aber erfährt die Art und Weise der Argumenation des Vereins im Berufungsverfahren derzeit mediale Aufmerksamkeit und erzeugt eine gewisse Peinlichkeit.

Wie n-tv berichtet, soll das Gericht insbesondere aufgrund der „Qualität“ der Berufungsschrift recht verstimmt gewesen sein.

Der Schriftsatz, ganze 73 Seiten lang und mit Hilfe künstlicher Intelligenz erstellt, sei laut dem Sportgericht ein „Sammelsurium unverifizierbarer 'KI-Halluzinationen'“.

Dies vor allem deswegen, weil die KI wohl leicht die Kontrolle verloren hat und dabei in den Fantasiebereich abgedriftet ist. Im Rahmen des Berufungsverfahrens führte das Gericht hierzu aus:

Bei einer Vielzahl der von der Berufungsführerin genannten Urteile bzw. Literaturstellen, auf welche sich die Berufungsführerin bezieht, handelt es sich um frei erfundene Entscheidungen, die es entweder gar nicht gibt oder welche völlig anders lauten.

So sei etwa im Schriftsatz auf eine Entscheidung betreffend Sanktionen für Fußballvereine Bezug genommen worden, die in der "Neuen Juristischen Wochenschrift" aus dem Jahre 1988 auf Seite 2682 abgedruckt sei.

Tatsächlich findet sich unter dieser Fundstelle aber Entscheidung des BGH betreffend den bedingten Tötungsvorsatz beim Verdeckungsmord.

Im Deutschunterricht hätte man einen entsprechenden Aufsatz wohl eine „Themaverfehlung“ attestiert.

Die „KI-Berufungsschrift“ scheint das Gericht nicht nur nicht überzeugt, sondern sogar sehr verärgert zu haben. Auf den 73 Seiten wurde wohl viel juristischer Unsinn verbreitet, der Arbeit bereitet aber in der Sache nicht weiterführt.

In der Folge blieb die Berufung erfolglos – lediglich der Aufschlag von 20% wurde vom Gericht kassiert.

Fazit

KI ist zum nicht mehr hinwegzudenkender Helfer für die Erledigung von Routinen, Alltsgaproblemen und zur Erleichterung der Recherche und zur Unterstützung bei komplexeren Arbeiten geworden, solange noch eine menschliche Kontrolle erfolgt, die von ausreichender fachlicher Expertise flankiert wird.

Der geschilderte Vorgang zeigt einmal mehr, dass es jedoch gewaltig schiefgehen kann, wenn man sich voll und ganz – ohne entsprechende Fachkenntnis – im juristischen Bereich auf die KI verlässt.

Mit eines der Hauptprobleme bei der Nutzung der KI im rechtlichen Bereich ist derzeit, dass die KI – anders als ein Mensch mit juristischer Ausbildung – in vielen Fällen nicht an ihren Aussagen zweifelt bzw. bestehende Unsicherheiten bei der Ergebnisfindung nicht hinreichend herausstellt.

Nicht selten werden völlig umstrittene Rechtsmeinungen dann als herrschend und alleiniger Lösungsweg ausgeben. Ferner werden bei juristischen Recherchen teilweise gar nicht existente Normen oder (so) gar nicht ergangenen Rechtsprechung als „selbstverständlich“ ausgespuckt.

Wer solche Ergebnisse dann ungeprüft bzw. ohne hinreichende, eigene juristische Sachkenntnis verwendet, der blamiert sich schnell. Wie hier der Fußballverein.

KI als Unterstützung im rechtlichen Bereich ist eine feine Sache. Anwaltliche Kontrolle aber unerlässlich, um sich rechtliche Probleme zu ersparen.

Sie möchten rechtssicher über das Internet verkaufen bzw. auftreten und dabei auf profunde, langjährige anwaltliche Expertise zurückgreifen? Mit unseren Schutzpaketen sichern wir Sie, wie bereits über 90.000 weitere Unternehmen, dauerhaft und kostengünstig vor Abmahnungen und rechtlichen Fallstricken im Ecommerce ab.

Fragen zum Beitrag? Diskutieren Sie hierzu gerne mit uns in der Unternehmergruppe der IT-Recht Kanzlei auf Facebook.