Erfundene Urteile tauchen in Gerichtsschriftsätzen auf
Der Oberste Gerichtshof Südkoreas hat seine erste Befragung von Richtern zu falschen juristischen Zitaten im Zusammenhang mit künstlicher Intelligenz veröffentlicht. Dabei zeigte sich, dass 196 Richterinnen und Richter in Zivil-, Familien- und Verwaltungssachen – 80,7 Prozent derjenigen, die diese Frage beantworteten – auf Verweise auf nicht existierende Präzedenzfälle gestoßen waren. Einige Gerichtsschriftsätze enthielten erfundene Urteile, die wie tatsächliche Entscheidungen des Obersten Gerichtshofs aussahen.
Inhalt
- Erfundene Urteile tauchen in Gerichtsschriftsätzen auf
- Was die Zahlen der Befragung zeigen
- Wie falsche Zitate auftauchten
- Fehler kamen sowohl von Anwälten als auch von Prozessparteien
- Wer trägt den Aufwand für die Prüfung erfundener Fälle?
- Vier Maßnahmen finden mehrheitliche Unterstützung
- Als Nächstes folgen Gesetzesänderungen und Online-Hinweise
- Die wichtigsten Punkte
Die Befragung wurde vom 6. bis 16. Oktober durchgeführt und am 2. November veröffentlicht. Sie umfasste Antworten von 360 Richterinnen und Richtern an Gerichten im ganzen Land. Außerdem ergab sie, dass sowohl Anwälte als auch Personen, die ihre Verfahren selbst führten, Dokumente mit falschen juristischen Verweisen eingereicht hatten.
Die Nationale Gerichtsverwaltung, die Verwaltungsbehörde des Obersten Gerichtshofs, will mit dem Justizministerium und anderen Stellen über Änderungen des Zivilprozessgesetzes und der Strafprozessordnung beraten. Dabei soll es um die Rechtsgrundlage für Geldbußen und weitere Maßnahmen bei unzutreffenden Einreichungen gehen.
Die Richter sprachen sich deutlich für ein Vorgehen aus: 91,7 Prozent hielten institutionelle Maßnahmen für notwendig, darunter 64,8 Prozent, die sie als sehr notwendig bezeichneten. Nach Angaben der Gerichtsverwaltung kostet die Prüfung falscher Zitate Richter und gegnerische Parteien Zeit und Geld und kann das Recht der Menschen auf ein Verfahren innerhalb angemessener Frist beeinträchtigen.
Was die Zahlen der Befragung zeigen
Am häufigsten wurde auf ein Urteil verwiesen, das nicht existierte. Richter stießen außerdem auf Verweise auf tatsächliche Entscheidungen, deren Inhalt verändert oder deren Bedeutung falsch dargestellt worden war. Ein Präzedenzfall ist eine frühere Gerichtsentscheidung, die als Beleg dafür angeführt wird, wie das Gesetz anzuwenden ist.
Die Befragten konnten mehrere Arten falscher Zitate auswählen. Die Ergebnisse für Richterinnen und Richter in Zivil-, Familien- und Verwaltungssachen:
- 196 Richterinnen und Richter beziehungsweise 80,7 Prozent waren auf Zitate nicht existierender Präzedenzfälle gestoßen.
- 159 Richterinnen und Richter beziehungsweise 65,4 Prozent waren auf falsche Darstellungen von Präzedenzfällen gestoßen.
- 41 Richterinnen und Richter beziehungsweise 16,9 Prozent waren auf falsche oder nicht existierende Gesetze und Verordnungen gestoßen.
- 10 Richterinnen und Richter beziehungsweise 4,1 Prozent waren auf falsche oder nicht existierende wissenschaftliche Arbeiten und andere Veröffentlichungen gestoßen.
Die Prozentwerte beziehen sich jeweils auf die Gruppe, die die entsprechende Frage beantwortet hat. Insgesamt nahmen 360 Richterinnen und Richter an der Befragung teil. Da mehrere Arten von Fehlern angegeben werden konnten, überschneiden sich die Kategorien.
Über nicht existierende Präzedenzfälle berichteten 37 Richterinnen und Richter mehr als über falsche Darstellungen von Präzedenzfällen: 196 gegenüber 159. Zusammengenommen zeigen die Ergebnisse, dass die Prüfung zwei Schritte umfasst: das angeführte Urteil zu finden und zu lesen, ob es das vorgebrachte Argument tatsächlich stützt.
Wie falsche Zitate auftauchten
Richter beschrieben Einreichungen mit KI-generierten Dokumenten, die das Format von Urteilen des Obersten Gerichtshofs nachahmten. In anderen Schriftsätzen wurde ein unbekanntes juristisches Argument mit einer Aktennummer des Obersten Gerichtshofs verknüpft, die sich bei einer Suche nicht finden ließ.
Anhand einer Aktennummer lässt sich normalerweise ein bestimmtes Verfahren oder Urteil auffinden. Führt der Verweis ins Leere, müssen Richter oder gegnerische Parteien zusätzliche Zeit aufwenden, um die Entscheidung zu ermitteln, auf die sich die Behauptung stützt.
Manche Dokumente verwiesen auf echte Urteile, veränderten aber die darin getroffene Entscheidung oder verwendeten das Urteil in einer Weise, die dessen Bedeutung verfälschte. Eine Prüfung allein der Aktennummer würde dieses Problem nicht lösen. Zusätzlich müsste der Leser das Argument im Schriftsatz mit dem tatsächlichen Urteil vergleichen.
Andere Einreichungen enthielten Text aus Gesprächen mit einem KI-Werkzeug oder Formulierungen zur Prozessstrategie. Solche Passagen machten für die Richter sichtbar, dass bei der Erstellung der Dokumente KI zum Einsatz gekommen war.
Die Befragung untersuchte Bedenken zu KI-Halluzinationen, also falschen Informationen, die als wahr dargestellt werden. In einem Gerichtsdokument kann ein erfundener Fall überzeugend wirken, weil er vertraute juristische Formulierungen, eine Aktennummer und das Format eines Urteils aufweist.
Fehler kamen sowohl von Anwälten als auch von Prozessparteien
Auf die Frage, wer falsche Präzedenzfälle oder anderes unzutreffendes Material eingereicht hatte, nannten 164 Richterinnen und Richter beziehungsweise 69,5 Prozent der Antwortenden die Parteien selbst. Weitere 136 Richterinnen und Richter beziehungsweise 57,6 Prozent nannten Anwälte als Vertreter oder Verteidiger.
Die Zahl 164 bezieht sich auf Richterinnen und Richter, die falsche Zitate in Einreichungen von Prozessparteien festgestellt hatten. Insgesamt beschrieben die Befragten unzutreffendes Material, das sie im Laufe von Verfahren erhalten hatten.
Die Antwortgruppen überschneiden sich, weil ein Richter sowohl bei einer Person, die ihr Verfahren selbst führte, als auch bei einem Anwalt auf falsche Zitate stoßen konnte. Die Zahlen geben an, wie viele Richter von solchen Erfahrungen berichteten. Im Mittelpunkt der Befragung stand, wie häufig sie mit dem Problem konfrontiert waren, nicht die Gesamtzahl fehlerhafter Einreichungen.
Die Beteiligung von Anwälten verleiht der vorgeschlagenen Prüfpflicht besonderes Gewicht. Bei einer anwaltlichen Vertretung steht bereits eine juristisch geschulte Person zwischen dem Argument des Mandanten und dem Gericht. Dennoch waren mehr als die Hälfte der Antwortenden auf unzutreffendes Material in Einreichungen von Anwälten gestoßen.
Wer sein Verfahren selbst führt, steht vor einer anderen praktischen Herausforderung. Betroffene müssen ohne anwaltliche Unterstützung Argumente vorbereiten und auf die Gegenseite reagieren. Die Gerichtsverwaltung warnte, dass es diesen Prozessparteien besonders schwerfallen könnte, ein erfundenes Urteil oder eine irreführende Darstellung eines echten Urteils zu erkennen und anzufechten.
Wer trägt den Aufwand für die Prüfung erfundener Fälle?
Nach Angaben der Nationalen Gerichtsverwaltung können falsche Zitate der gegnerischen Partei zusätzliche Arbeit aufbürden. Wer ein Dokument mit einem unbekannten Präzedenzfall erhält, muss womöglich danach suchen, den zitierten Inhalt prüfen und eine Stellungnahme verfassen, in der der Fehler erläutert wird.
Ein falsches Zitat kann daher auch außerhalb des Dokuments, in dem es steht, Kosten verursachen. Eine anwaltlich vertretene Partei benötigt möglicherweise zusätzlichen juristischen Aufwand; wer keinen Anwalt hat, muss selbst Zeit in die Prüfung eines Verweises investieren, der möglicherweise zu keinem echten Urteil führt.
Auch Richter sind dadurch zusätzlich belastet. Die Zeit, die sie für die Prüfung aufwenden, ob eine Entscheidung existiert oder ob ihr Inhalt verändert wurde, kommt zur gerichtlichen Prüfung des Rechtsstreits hinzu. Die Gerichtsverwaltung stellte einen Zusammenhang zwischen diesem Mehraufwand, langsameren Verfahren und Verzögerungen beim Zugang zum Recht her.
Besonders konkret ist die Sorge, wenn ein falscher Verweis wie eine maßgebliche Entscheidung des Obersten Gerichtshofs aussieht. Die vermeintliche Autorität gibt der gegnerischen Partei Anlass, ihn sorgfältig zu prüfen. Zugleich muss das Gericht das Zitierproblem klären, bevor es das darauf aufbauende juristische Argument bewertet.
Vier Maßnahmen finden mehrheitliche Unterstützung
Die Richter unterstützten mehrere mögliche Maßnahmen; die meistgenannten erhielten ähnlich viel Zustimmung. Eine Rechtsgrundlage für Geldbußen befürworteten 215 Richterinnen und Richter beziehungsweise 61,4 Prozent. Eine Pflicht, zitierte Präzedenzfälle und andere Materialien zu überprüfen, fand die Unterstützung von 214 beziehungsweise 61,1 Prozent.
Die Offenlegung der KI-Nutzung befürworteten 212 Richterinnen und Richter beziehungsweise 60,6 Prozent. Sanktionen gegen Anwälte, darunter die Weiterleitung an ein Disziplinarverfahren, unterstützten 194 beziehungsweise 55,4 Prozent.
Zwischen der Unterstützung einer Rechtsgrundlage für Geldbußen und der Offenlegung der KI-Nutzung lagen lediglich drei Stimmen: 215 gegenüber 212. Die ähnlichen Zahlen deuten darauf hin, dass die Befragten mehrere Ansätze zur Lösung des Problems befürworteten und sich nicht auf eine einzelne Maßnahme konzentrierten.
Jeder Vorschlag setzt an einer anderen Phase der Erstellung und Einreichung eines Gerichtsdokuments an. Die Prüfpflicht würde die Überprüfung des juristischen Materials vorschreiben. Eine Offenlegung würde das Gericht darüber informieren, dass KI verwendet wurde. Geldbußen würden im Rahmen der vorgeschlagenen Rechtsgrundlage eine finanzielle Folge schaffen, während Disziplinarverfahren das Verhalten eines Anwalts dem zuständigen Berufsverfahren zuführen würden.
Wiederholte falsche Zitate gehörten zu den Verhaltensweisen, für die ein Disziplinarverfahren in Betracht gezogen wurde. Die Vorschläge der Gerichtsverwaltung verbinden die Verantwortung für die Richtigkeit einer Einreichung mit Konsequenzen für den Fall, dass unzutreffendes Material vor Gericht gelangt.
Als Nächstes folgen Gesetzesänderungen und Online-Hinweise
Die Nationale Gerichtsverwaltung will mit den zuständigen Stellen, darunter dem Justizministerium, über Änderungen des Zivilprozessgesetzes und der Strafprozessordnung beraten und ihre Stellungnahme der Nationalversammlung vorlegen. Die vorgeschlagenen Änderungen sollen eine Rechtsgrundlage für Maßnahmen wie Geldbußen schaffen.
Die von der Gerichtsverwaltung beschriebene Abfolge:
- 6. bis 16. Oktober: Richterinnen und Richter an Gerichten im ganzen Land nahmen an der Befragung teil.
- 2. November: Die Ergebnisse der Befragung wurden veröffentlicht.
- Nächste Schritte: Beratungen mit den zuständigen Stellen und Vorlage der Stellungnahme der Gerichtsverwaltung zu Gesetzesänderungen bei der Nationalversammlung.
Für die Beratungen, eine Abstimmung über die Gesetzesänderungen oder die Einführung von Geldbußen wurde kein Zeitplan genannt. Auch die Höhe möglicher Geldbußen und die genauen Voraussetzungen für ihre Verhängung sind in den angekündigten Plänen noch offen.
Die Gerichtsverwaltung erwägt, auf der Website für elektronische Gerichtsverfahren Hinweise zur KI-Nutzung zu veröffentlichen. Dort erledigen Anwälte und Prozessparteien bereits ihre Gerichtsangelegenheiten. Die Hinweise sollen ihnen helfen, die Richtigkeit von mit KI erstelltem Material zu überprüfen.
Die Ergebnisse der Befragung legen einen praktischen Schwerpunkt für diese Hinweise nahe: Sowohl die Existenz als auch die Bedeutung eines Urteils müssen geprüft werden. Eine echte Aktennummer hilft, eine Entscheidung zu finden; erst die Lektüre zeigt, was das Gericht tatsächlich gesagt hat. Die Beispiele, auf die Richter gestoßen waren, zeigen, warum beide Prüfungen wichtig sind.
Die wichtigsten Punkte
- An der ersten Befragung des Obersten Gerichtshofs zu falschen Zitaten im Zusammenhang mit KI nahmen 360 Richterinnen und Richter teil.
- Unter den Richtern in Zivil-, Familien- und Verwaltungssachen, die die entsprechende Frage beantworteten, waren 80,7 Prozent auf Zitate nicht existierender Präzedenzfälle gestoßen.
- Richter berichteten von gefälschten Urteilen des Obersten Gerichtshofs, nicht auffindbaren Aktennummern, veränderten Entscheidungen und in Schriftsätzen verbliebenen Texten aus KI-Gesprächen.
- Falsches Material stammte sowohl von den Prozessparteien selbst als auch von Anwälten, die Parteien vertraten.
- 91,7 Prozent der Befragten unterstützten institutionelle Maßnahmen. Mehrheiten befürworteten Geldbußen, Prüfpflichten, Offenlegungspflichten und Sanktionen gegen Anwälte.
- Die Nationale Gerichtsverwaltung plant Beratungen über Änderungen des Verfahrensrechts und erwägt Hinweise auf der Website für elektronische Gerichtsverfahren.
