Laden Sie hier die offizielle Erklärung der Anwältin von Anthropic herunter
Im Jahr 2025 geriet die Justiz mehrfach unmittelbar mit künstlicher Intelligenz in Konflikt. Dabei wurden deren Risiken für Anwälte deutlich. In drei voneinander unabhängigen Fällen in Italien, den Vereinigten Staaten und Australien nutzten Anwälte Chatbots wie ChatGPT und Claude zur Vorbereitung gerichtlicher Schriftsätze. Das Ergebnis waren vollständig erfundene Rechtsprechungszitate. Ein zunehmendes Phänomen, das dringende Fragen zum Einsatz juristischer künstlicher Intelligenz und zur Zuverlässigkeit ihrer Quellen aufwirft.
Florenz, Januar 2025. Das Warnsignal kommt aus Italien
Der erste bekannte Fall in Italien geht auf die Verhandlung vom 21. Januar 2025 vor der Abteilung für Unternehmenssachen des Landesgerichts Florenz zurück. In einem Rechtsstreit über den Schutz einer Marke und Urheberrechte stellte der Antragsteller fest, dass einige von der Gegenseite zitierte Urteile des Kassationsgerichtshofs nicht existierten.
Der Anwalt der Antragsgegnerin räumte anschließend ein, dass diese Zitate aus der Arbeit einer Mitarbeiterin stammten, die ChatGPT verwendet hatte. Der Anwalt erklärte, über den Einsatz von KI nicht informiert worden zu sein. Ein „Versehen“, das sowohl fachlich als auch berufsrechtlich Bedenken auslöste.
Die Abteilung für Unternehmenssachen des Landesgerichts Florenz stellte jedoch fest, dass in diesem Fall die Verwendung vollständig von künstlicher Intelligenz erfundener Rechtsprechungsverweise in Verteidigungsschriftsätzen der obsiegenden Gegenseite keinen Anspruch auf eine Verurteilung wegen „verschärfter Haftung“ gemäß articolo 96 del cpc verleiht. Gemeint ist die Haftung dafür, „bösgläubig oder grob fahrlässig vor Gericht geklagt oder sich verteidigt“ zu haben.
Vereinigte Staaten, Mai 2025. Anthropic selbst wird Opfer seines Chatbots Claude
Am 15. Mai 2025 mussten sich die Rechtsvertreter von Anthropic, dem Unternehmen, das den Chatbot Claude entwickelt hat, vor dem Gericht in Kalifornien entschuldigen. Im Rahmen einer Urheberrechtsklage von Universal Music Group und anderen Verlagen hatte eine Anwältin der von Anthropic beauftragten Kanzlei Claude verwendet, um Zitate zu formatieren, die sich auf wissenschaftliche Artikel bezogen.
Ivana Dukanovic, die betreffende Anwältin und Associate der renommierten Kanzlei Latham & Watkins LLP in San Francisco, erklärt:
Auch in diesem Fall wurde der Fehler auf die sogenannten „hallucinations“ der KI zurückgeführt. Das sind plausibel wirkende Ergebnisse ohne tatsächliche Grundlage.
Laden Sie hier die offizielle Erklärung der Anwältin von Anthropic herunter
Australien, November 2024. ChatGPT und das Einwanderungsverfahren
In einer am 1. Februar 2025 veröffentlichten Entscheidung meldete die australische Bundesrichterin Rania Skaros einen Anwalt dem Office of the NSW Legal Services Commissioner (OLSC), dem Disziplinarorgan der australischen Anwälte.
Der Grund war, dass der Anwalt in einem Einwanderungsverfahren mit ChatGPT verfasste Dokumente eingereicht hatte, die Zitate aus nie existierenden Entscheidungen enthielten.
Richterin Skaros berichtet:
Der Anwalt räumte ein, aufgrund gesundheitlicher Probleme und bevorstehender Fristen unter Druck gehandelt und sich auf KI verlassen zu haben, ohne die Quellen zu überprüfen. Das Gericht bezeichnete den Zeitverlust durch die Prüfung dieser nicht existierenden Verweise als besorgniserregend und warnte vor der Gefahr eines oberflächlichen Einsatzes künstlicher Intelligenz.
Warum künstliche Intelligenz den Anwalt nicht ersetzt
Diese Fälle zeigen deutlich, dass Tools mit generativer KI die professionelle Sorgfalt von Anwälten nicht ersetzen. Es handelt sich um statistische Systeme, die das wahrscheinlichste nächste Wort vorhersagen, nicht um Tools, die Wahrheit garantieren können. Wenn sie etwas „nicht wissen“, erfinden sie es. Das ist das bereits erwähnte Phänomen der „hallucination“. Genau daraus entstehen die Risiken von KI für Anwälte.
Deshalb ist es entscheidend:
- KI zu nutzen, die mit juristischen Datenbanken verbunden ist und bei der jede Quelle leicht überprüfbar ist.
- Auf Tools mit fortschrittlichen RAG-Technologien (retrieval-augmented generation) zu setzen, die Halluzinationen drastisch reduzieren.
- Die erzeugten Inhalte immer zu überprüfen und sowohl Berufsträger als auch Mitarbeiter, die sie verwenden, in die Verantwortung zu nehmen.
Fazit. Wer die Risiken von KI für Anwälte kennt, kann schwerwiegende Folgen vermeiden
Juristische künstliche Intelligenz ist ein außergewöhnliches Tool. Sie kann jedoch die Sorgfalt, die Überprüfung und die Berufsethik des Anwalts nicht ersetzen. Die drei analysierten Fälle sind keine bloßen technologischen Kuriositäten, sondern Warnsignale. Sie zu ignorieren kann rechtlich und für den Ruf teuer werden.