Immer mehr Anwälte versuchen, ChatGPT für juristische Recherche einzusetzen. Sie fragen nach einem Urteil zu einem Thema, einem Verweis auf eine Rechtsnorm oder einem Leitsatz des Kassationsgerichtshofs. Die Antwort kommt innerhalb weniger Sekunden, in einwandfreiem juristischem Italienisch formuliert. Das Problem ist, dass dieses Urteil häufig nicht existiert.
Das ist weder ein Einzelfall noch eine Fehlfunktion. Es ist eine unmittelbare Folge der Konstruktion von Tools wie ChatGPT. Zu verstehen, warum das geschieht, ist der beste Weg, um nicht mit einem erfundenen Zitat vor Gericht zu erscheinen.
Was ein Sprachmodell tatsächlich ist
ChatGPT, Claude, Gemini und die anderen allgemeinen Chatbots sind Sprachmodelle. Ihre grundlegende Aufgabe besteht darin, das wahrscheinlichste Wort vorherzusagen, das auf die vorhergehenden Wörter folgt. Sie werden mit enormen Textmengen trainiert, um statistische Sprachmuster zu erkennen. Sie werden nicht dafür trainiert, ein überprüftes Archiv von Urteilen zu führen.
Das bedeutet, dass ein Sprachmodell eine Quelle nicht so „sucht“, wie es eine juristische Datenbank tun würde. Es erzeugt einen Text, der einer korrekten Antwort ähnelt. In den meisten Alltagsgesprächen funktioniert das sehr gut. Im Recht, wo jede Aussage auf einer tatsächlichen und präzisen Quelle beruhen muss, wird der Unterschied zwischen „plausibel“ und „wahr“ enorm.
Warum erfundene Zitate entstehen
Das Phänomen hat einen Fachbegriff, Halluzination (auf Englisch hallucination). Wenn das Modell nicht über die genaue Information verfügt oder sie nicht mit Sicherheit abrufen kann, hält es nicht an und sagt nicht „Ich weiß es nicht“. Es tut weiter das, wofür es entwickelt wurde. Es erzeugt die statistisch wahrscheinlichste Wortfolge.
Bei juristischer Recherche führt das zu typischen Ergebnissen:
- Plausible, aber falsche Urteilsnummern. Eine „Cass. civ. n. 14572/2019“ hat das richtige Format, entspricht aber keiner tatsächlichen Entscheidung.
- Glaubwürdige Leitsätze, die nie verfasst wurden. Überzeugend formulierte Rechtsgrundsätze, die jedoch kein Richter jemals ausgesprochen hat.
- Falsche Verweise auf Rechtsnormen. Artikel werden mit falschen Nummern zitiert oder dem falschen Gesetzbuch zugeordnet.
Besonders tückisch ist die Sicherheit. Das Modell präsentiert erfundene Informationen im selben verbindlichen Ton wie korrekte Informationen. Es gibt keine Warnsignale. Der Anwalt muss jedes Mal alles überprüfen.
Es ist nicht nur ein theoretisches Risiko
Im Jahr 2025 sahen sich mehrere Gerichte mit Schriftsätzen konfrontiert, die von KI erzeugte und nie existierende Zitate enthielten. Das geschah in Italien, in den Vereinigten Staaten und in Australien. In einigen Fällen wurden die beteiligten Anwälte den Disziplinarorganen gemeldet. In anderen mussten sie sich förmlich vor Gericht entschuldigen. Gemeinsam ist diesen Fällen immer, dass ein allgemeines Tool ohne genaue Prüfung für eine Aufgabe eingesetzt wurde, die überprüfbare Quellen erfordert.
Die Verantwortung bleibt, daran sei erinnert, immer beim Anwalt. Gelangt ein von einem Chatbot erzeugter Fehler in einen Schriftsatz, ist es ein Fehler des Anwalts, der ihn unterzeichnet hat.
Was Sie stattdessen verwenden sollten. Ein auf italienisches Recht trainiertes Tool
Das Problem ist nicht die künstliche Intelligenz an sich, sondern der Einsatz eines allgemeinen Tools für eine spezialisierte Aufgabe. Juristische Recherche erfordert ein System, das nach einer anderen Logik aufgebaut ist. Es soll keine plausiblen Texte erzeugen, sondern tatsächliche Quellen abrufen und zitieren.
Genau auf diesem Prinzip beruht DIKAIA:
- Auf italienisches Recht trainiert. DIKAIA arbeitet mit über 7 Millionen Quellen aus Rechtsprechung, Gesetzgebung und Praxis, nicht mit einem allgemeinen Textkorpus aus dem Internet.
- Jede Antwort hat ihre Quelle. Ein proprietärer Mechanismus gegen Halluzinationen überprüft jede Antwort, bevor sie angezeigt wird. Was DIKAIA zitiert, lässt sich bis zur Originalquelle zurückverfolgen. So kann der Anwalt jede Aussage überprüfen und vertreten.
- Für Ihre tatsächliche Arbeit entwickelt. Juristische Recherche, Dokumentenanalyse und Erstellung von Entwürfen in einem einzigen Arbeitsablauf, integriert in die Kanzleiverwaltungssoftware GESTAC, ohne Ihre bisherige Arbeitsweise grundlegend zu verändern.
Der Unterschied ist deutlich. ChatGPT versucht, korrekt zu wirken. Ein spezialisiertes juristisches Tool ist darauf ausgelegt, überprüfbar zu sein.
Zusammenfassung
ChatGPT erfindet Zitate, weil es ein allgemeines Sprachmodell ist. Es sagt Sprache vorher, führt aber kein Rechtsprechungsarchiv. Juristische Recherche erfordert ein auf italienisches Recht trainiertes Tool, das nur überprüfbare Quellen zitiert und die abschließende Kontrolle beim Anwalt belässt.
Dafür wurde DIKAIA entwickelt. Erfahren Sie, wie die künstliche Intelligenz für Anwälte funktioniert, die nur überprüfbare Quellen zitiert, oder testen Sie DIKAIA kostenlos. Für eine geführte Demo schreiben Sie an hello@dikaia.ai.