https://www.reuters.com/legal/litigation/judge-rules-both-sides-lawsuit-misused-ai-disqualifies-lawyers-2026-06-09/Gericht stoppt Verfahren wegen "nicht existierender Präzedenzfälle" von KI – Die Kosten unüberprüfter Schriftsätze für Anwälte

In einem US-Gericht kam es zu einem ungewöhnlichen Vorfall, der das Zeitalter der generativen KI symbolisiert. Der Streitpunkt war nicht die Nutzung von KI an sich. Das Problem war, dass die von der KI generierten Inhalte ohne Überprüfung durch menschliche Experten dem Gericht vorgelegt wurden.

Vor dem Bundesbezirksgericht für den nördlichen Distrikt von Mississippi wurde ein Vertragsstreit zwischen dem Anwalt Tom Withers und der Stadt Aberdeen, Mississippi, verhandelt. Withers klagte, weil die Stadt ihm Anwaltsgebühren schuldete. Normalerweise würden in einem solchen Verfahren Schriftsätze ausgetauscht, die Tatsachen und rechtliche Argumente ordnen, bevor es zum Prozess kommt. Doch in diesem Fall bemerkte das Gericht eine schwerwiegende Anomalie, bevor es dazu kam.

In den eingereichten Schriftsätzen war ein Präzedenzfall enthalten, den das Gericht nicht finden konnte.

Zunächst könnte dies wie ein einfacher Zitierfehler oder eine Inkonsistenz erscheinen. Doch es war nicht nur ein Zitat. In den Schriftsätzen sowohl der Kläger- als auch der Beklagtenseite fanden sich nicht verifizierbare Präzedenzfälle. Bei der Untersuchung stellte das Gericht fest, dass es sich um "Halluzinationen" handelte – Zitate, die nicht existierten oder zumindest in der vorgelegten Form nicht bestätigt werden konnten.

Halluzinationen beziehen sich auf das Phänomen, dass generative KI glaubwürdige Texte oder Informationen erstellt, die jedoch nicht auf Fakten basieren. Dies ist im Rechtsbereich besonders gefährlich, da Zitate von Präzedenzfällen oder Gesetzen nicht nur dekorativ sind, sondern die Grundlage der Argumentation bilden. Das Zitieren nicht existierender Präzedenzfälle ist nicht vergleichbar mit dem Hinzufügen fiktiver Zutaten zu einem Kochrezept. Es verschwendet die Zeit und das Vertrauen von Richtern, Gegnern, Mandanten und dem gesamten Justizsystem.

Ein weiteres bemerkenswertes Merkmal dieses Falls war, dass das Problem mit der KI nicht nur auf einer Seite auftrat. Sowohl die Kläger- als auch die Beklagtenseite hatten Probleme mit den von der KI erstellten Schriftsätzen. Es war, als ob ein von KI erstelltes Argument mit einem anderen von KI erstellten Argument beantwortet wurde. Auf sozialen Medien wurde sarkastisch bemerkt, dass die Mandanten hohe Anwaltsgebühren zahlten, nur um im Wesentlichen ein Streitgespräch zwischen KIs zu sehen.

Laut der Sanktionserklärung hatte die Anwältin der Klägerseite, Kathleen Wilson, einen Schriftsatz mit generativer KI erstellt und die darin enthaltenen rechtlichen Grundlagen nicht überprüft. Die Anwältin der Beklagtenseite, Kathryn Williams, nutzte ein KI-gestütztes Rechtsrecherche-Tool und übernahm dessen Ausgabe ohne unabhängige Überprüfung in den Schriftsatz. Zudem hatten beide örtlichen Anwälte die Schriftsätze unterschrieben, ohne den Inhalt ausreichend zu überprüfen.

Das Gericht hat die Nutzung von KI nicht grundsätzlich abgelehnt. Vielmehr erkennt es an, dass KI ein nützliches Werkzeug sein kann, wenn sie richtig eingesetzt wird. Dennoch zog das Gericht klare Grenzen. Die Verantwortung des Anwalts, der den Schriftsatz unterschreibt, kann nicht auf die KI, den Co-Anwalt oder das Softwareunternehmen übertragen werden. Auch wenn KI Texte erstellen kann, liegt es in der Verantwortung des Anwalts, deren Wahrhaftigkeit und Verantwortung zu gewährleisten.

Diese Entscheidung enthält eine gewichtige Botschaft für Fachleute im Zeitalter der generativen KI. KI kann ein nützlicher Assistent für Entwürfe sein. Sie kann als Einstiegspunkt für Recherchen, zur Strukturierung von Argumenten und zur Erstellung von Texten dienen. Doch in der Phase, in der etwas eingereicht, veröffentlicht, berechnet, diagnostiziert oder entschieden wird, ist eine menschliche Überprüfung unerlässlich. Besonders in Bereichen wie dem Recht, wo jedes Wort mit Rechten, Pflichten, Geld und Freiheit verbunden ist, ist "weil die KI es gesagt hat" kein ausreichender Grund.

Richterin Sharion Aycock hat den geplanten Prozess abgesagt und das Verfahren eingestellt. Außerdem wurden alle vier in den Fall involvierten Anwälte von dem Fall abgezogen. Zwei der Anwälte, die direkt an der Erstellung der problematischen Schriftsätze und der rechtlichen Recherche mit KI beteiligt waren, wurden für zwei Jahre von der Teilnahme an Verfahren vor dem Bundesbezirksgericht für den nördlichen Distrikt von Mississippi ausgeschlossen. Es wurden auch Geldstrafen verhängt: Wilson muss 2500 Dollar, Williams 3500 Dollar und die beiden örtlichen Anwälte jeweils 1000 Dollar zahlen. Wilson wurde zudem angewiesen, an einer Fortbildung zu KI-Nutzung und Ethik teilzunehmen.

Diese Maßnahmen enden nicht nur mit Geldstrafen. Das Gericht plant, die Anordnung auch an die beteiligten Anwaltskammern zu senden. Das bedeutet, dass das Problem nicht nur als ein Versagen in einem einzelnen Verfahren betrachtet wird, sondern als ein berufsethisches Problem behandelt werden könnte.

Die Reaktionen in den sozialen Medien waren eine Mischung aus Wut, Frustration und pragmatischen Diskussionen.

In der juristischen Gemeinschaft war die Reaktion oft, dass "die ohnehin überlasteten Justizsysteme Zeit und Geld verschwendet" wurden. Gerichte haben viele Fälle zu bearbeiten. Wenn Anwälte unüberprüfte KI-generierte Schriftsätze einreichen, müssen Richter unnötige Überprüfungsarbeiten leisten. Dies ist nicht nur eine Peinlichkeit für die Anwälte selbst, sondern verschlingt auch Justizressourcen und verzögert die Verfahren anderer Parteien.

Es gab auch viel Mitgefühl für die Position der Mandanten. Menschen beauftragen Anwälte, weil sie keine juristischen Fachkenntnisse haben und sich auf Experten verlassen. Doch wenn diese Experten KI-Ausgaben einreichen, ohne sie zu lesen, und das Verfahren dadurch gestoppt wird und die Anwälte ausgetauscht werden müssen, tragen die Mandanten letztlich das Risiko eines "Mangels an Expertenaufsicht". In sozialen Medien gab es Beiträge mit dem Tenor: "Wenn ich Anwaltsgebühren zahle und das passiert, wäre ich wütend."

Andererseits gab es auch Stimmen, die darauf hinwiesen, dass es ein Missverständnis sei, zu denken, dass die Anwälte "bestraft wurden, weil sie KI nutzten". In der Technik-Community wurde darauf hingewiesen, dass die Überschriften den Eindruck erwecken könnten, dass die Nutzung von KI an sich problematisch war, aber das eigentliche Problem war das "Zitieren nicht existierender Präzedenzfälle ohne Überprüfung". Tatsächlich gibt es KI-Tools für juristische Zwecke und Recherchehilfen, die, wenn sie mit angemessener Überprüfung kombiniert werden, die Effizienz steigern können. Das Problem war nicht die Nutzung des Werkzeugs, sondern das Überlassen der Arbeit an das Werkzeug.

Dieser Punkt ist wichtig. Wenn man die Diskussion auf "Verwendet keine KI" vereinfacht, verfehlt man das Wesentliche des Problems. In der Vergangenheit wurden in Anwaltskanzleien Präzedenzdatenbanken, Dokumentvorlagen, Vertragssoftware und elektronische Antragssysteme eingeführt. Viele Routineunterlagen wurden schon immer mit einer Kombination aus Software und Standardtexten erstellt. KI kann als Werkzeug in dieser Tradition verwendet werden. Der Unterschied zu herkömmlichen Tools besteht jedoch darin, dass generative KI glaubwürdige Lügen in natürlichem Text erstellen kann.

In sozialen Medien wurde auch gefragt: "Kann man nicht automatisch überprüfen, ob die zitierten Präzedenzfälle existieren?" Technisch gesehen wäre eine gewisse automatische Überprüfung durch Abgleich mit Präzedenzdatenbanken, Überprüfung der Zitierformate, URL- und Literatur-ID-Überprüfung möglich. Tatsächlich entwickeln einige Forscher, die sich mit KI-Halluzinationen befassen, Referenzüberprüfungstools. Dennoch bleibt die Verantwortung letztlich beim Einreicher. Auch Überprüfungstools sind nicht allmächtig und dienen nur als Unterstützung bei der Überprüfung.

Ein weiterer nicht zu übersehender Punkt in diesem Fall ist, dass die Fehler der KI kein "Problem nur für Anfänger" sind. Kurz nach dem Aufkommen der generativen KI wurde oft auf Fehler von Laien oder unerfahrenen Nutzern hingewiesen, die KI nutzten, um selbst Klagen einzureichen. Doch in diesem Fall waren es Anwälte, die offiziell vor Gericht auftraten. Und es betraf nicht nur eine Seite, sondern beide. Auch Experten können in dieselbe Falle tappen, wenn Arbeitsbelastung, Nachlässigkeit, Übervertrauen und übermäßige Erwartungen an Tools zusammenkommen.

Fälle, in denen KI-Halluzinationen vor Gericht problematisch werden, sind mittlerweile keine seltene Ausnahme mehr. In Datenbanken, die sich mit KI-generierten fiktiven Präzedenzfällen und Fehlzitaten befassen, sind zahlreiche Fälle aus Gerichten weltweit verzeichnet. Auch in den USA häufen sich die Fälle, und die Geduld der Gerichte ist offensichtlich erschöpft.

Insbesondere in den letzten Jahren sind die Reaktionen der Gerichte strenger geworden. Was früher mit Geldstrafen oder Verwarnungen endete, führt heute zu Ausschlüssen von der Teilnahme an Verfahren, Entzug von Fällen, Meldungen an Anwaltskammern und Anordnungen zur Teilnahme an Schulungen, die praktische Schmerzen verursachen. Der Grund dafür ist, dass kleine Geldstrafen allein nicht als Abschreckung ausreichen, wie die verbreitete Meinung lautet. Auch in sozialen Medien gab es harte Meinungen wie "Geldstrafen allein schmerzen diejenigen mit finanziellen Mitteln nicht" und "Es braucht ein Exempel".

Allerdings gibt es auch Diskussionen über die Schwere der Maßnahmen. Die betroffenen Anwälte haben sich beim Gericht entschuldigt und zumindest teilweise die Ursachen ihrer Fehler anerkannt. Die beiden örtlichen Anwälte haben die KI nicht direkt genutzt, sondern es wurde ihnen vorgeworfen, die Schriftsätze der Co-Anwälte nicht überprüft zu haben. Dennoch entschied das Gericht, dass sie, da sie unterschrieben hatten, Verantwortung tragen. Diese Entscheidung wird sich auch auf die zukünftige Praxis der gemeinsamen Mandate und der Rolle der örtlichen Anwälte auswirken. "Nur den Namen hergegeben" oder "nicht der Hauptverantwortliche gewesen" wird vor Gericht schwerer durchsetzbar sein.

Die größte Frage, die dieser Fall aufwirft, ist, was der "Wert des Experten" im Zeitalter der KI ist.

Wenn KI Texte schreiben kann, was machen dann die Anwälte? Wenn KI etwas wie Präzedenzfälle finden kann, werden menschliche Juristen dann überflüssig? Dieser Fall zeigt eher das Gegenteil. Je glaubwürdiger die von KI bereitgestellten Informationen erscheinen, desto mehr sind menschliche Experten gefordert, überlegene Überprüfungsfähigkeiten und Verantwortungsbewusstsein zu entwickeln. Da KI Entwürfe erstellen kann, müssen Experten in der Lage sein, diese zu durchschauen, zu kürzen, abzugleichen und, wenn nötig, zu verwerfen.

Dies gilt nicht nur für die Rechtsbranche. In allen Bereichen, in denen KI in die Arbeit integriert wird, wie Medizin, Finanzen, Bildung, Journalismus, Verwaltung, Werbeproduktion und Softwareentwicklung, treten dieselben Probleme auf. Wer hat das von der KI Erstellte überprüft? Mit welcher Informationsquelle wurde es abgeglichen? Wer übernimmt die Verantwortung im Falle eines Fehlers? Wenn KI ohne dieses grundlegende Design eingeführt wird, kann dies statt Effizienzsteigerung zu einem Vertrauensverlust führen.

Wenn generative KI falsch eingesetzt wird, wird sie nicht zu einem "Werkzeug zur Zeitersparnis", sondern zu einem "Werkzeug zur schnellen Massenproduktion von Fehlern". Diese Fehler sind zudem in natürliche Sprache verpackt, sodass sie oberflächlich betrachtet beeindruckend erscheinen. Die Anwälte in diesem Fall haben wahrscheinlich nicht absichtlich fiktive Präzedenzfälle erstellt. Doch das Fehlen von böser Absicht ist keine Entschuldigung. Schriftsätze, die dem Gericht vorgelegt werden, erfordern zumindest die Verantwortung der Überprüfung.

Der Trend, dass KI in Gerichtsverfahren Einzug hält, wird sich nicht aufhalten lassen. Es gibt sicherlich Bereiche, in denen KI nützlich sein kann, wie Rechtsrecherche, Dokumentenerstellung, Beweissammlung und Vertragsprüfung. Doch je mehr KI eingeführt wird, desto strenger müssen die Berufsethik und die Überprüfungsverfahren sein. Welches Tool wurde verwendet? Wer hat die Ausgabe überprüft? Existieren die zitierten Quellen tatsächlich? Unterstützt der Inhalt des Präzedenzfalls wirklich das Argument? Diese unscheinbaren Überprüfungen werden das zentrale Arbeitsfeld von Fachleuten im KI-Zeitalter sein.

Die Entscheidung des Gerichts war kein Ausdruck der Ablehnung von KI, sondern eine Klarstellung der Verantwortlichkeiten im KI-Zeitalter. Generative KI kann Worte schaffen. Doch Verantwortung kann sie nicht schaffen. Die Verantwortung liegt bei dem Menschen, der letztendlich diese Worte auswählt, unterschreibt und einreicht.

Quellen-URL

Gizmodo: Berichtet über den Fall, die Tatsache, dass beide Anwälte die KI-generierten Schriftsätze nicht überprüft haben, und die Reaktion des Richters.
https://gizmodo.com/judge-cancels-whole-case-after-lawyers-admit-they-didnt-read-ai-generated-filings-2000769668

404 Media: Ein Artikel, der frühzeitig über den Fall berichtete. Über die Sanktionserklärung des Gerichts, die Bemerkungen von Rob Freund auf sozialen Medien und den Kontext des "KI-Streits" auf sozialen Medien.
https://www.404media.co/judge-learns-lawyers-on-both-sides-of-case-used-ai-cancels-trial-kicks-everyone-off-the-case/

PDF der Sanktionserklärung des Bundesbezirksgerichts für den nördlichen Distrikt von Mississippi: Fallnummer, Parteien, problematische KI-generierte fiktive oder nicht verifizierbare Präzedenzfälle, Sanktionen gegen die vier Anwälte, Höhe der Geldstrafen, zweijähriges Teilnahmeverbot an Verfahren und andere Primärquellen.
https://storage.courtlistener.com/recap/gov.uscourts.msnd.50181/gov.uscourts.msnd.50181.123.0.pdf

Reuters: Überblick über den Fall, Namen der sanktionierten Anwälte, Höhe der Geldstrafen, zweijähriges Teilnahmeverbot, Benachrichtigung der Anwaltskammern.
https://www.reuters.com/legal/litigation/judge-rules-both-sides-lawsuit-misused-ai-disqualifies-lawyers-2026-06-09/

Reddit r/law: Überprüfung der Reaktionen in der juristischen Community. Verschwendung von Justizressourcen, Auswirkungen auf Mandanten, Kritik an Anwälten, die KI-generierte Inhalte nicht überprüften.
https://www.reddit.com/r/law/comments/1u16wbc/judge_learns_lawyers_on_both_sides_of_case_used/

Reddit r/technology: Überprüfung der Reaktionen in der Technik-Community. Hinweis darauf, dass nicht die Nutzung von KI an sich das Problem war, sondern das Zitieren nicht existierender Präzedenzfälle ohne Überprüfung, Diskussion über die Verantwortung der Überprüfung durch Menschen.
https://www.reddit.com/r/technology/comments/1u18o6n/judge_learns_lawyers_on_both_sides_of_case_used/

Damien Charlotin "AI Hallucination Cases" Datenbank: Überblick über die Verbreitung von KI-Halluzinationen in Gerichtsunterlagen, Anzahl der weltweit und in den USA verzeichneten Fälle, Hintergrundinformationen zu Problemen mit KI-generierten fiktiven Präzedenzfällen.##HTML_TAG