Halluziniertes Strafrecht: Die „Aktenzeichensprache“

Erschütternd.

Ich habe gerade über zwei Stunden damit verbraten, eine Strafrechtslage per KI-System zu recherchieren, weil ich gerade nicht in die Bibliothek komme, um das per Juris oder Beck zu recherchieren.

Das KI-System erzählte mir – sehr plausibel und völlig glaubwürdig – etwas von der Rechtslage, im Allgemeinen sei es nicht so, aber in genau so einem Sonderfall sei es so, wie ich es haben wollte, und gab mir dazu Fundstellen u.a. beim BGH und beim LG München an, sowohl als Aktenzeichen, als auch als Fundstelle in BGHSt, und auch noch mit Angabe, in welcher Online-Datenbank ich das mit welchen Suchbegriffen finden würde.

Einmal hat sich das KI-System bei einer Nachfrage sogar korrigiert, die Jahreszahl des Aktenzeichens habe nicht gestimmt.

Ich suche und suche und suche …

Nichts davon existiert.

Das heißt, das BGH-Urteil mit dieser Fundstelle und diesem Aktenzeichen existiert schon – aber da steht kein Wort von der Sache drin, da geht es um etwas völlig anderes. Nicht mal um materielles Strafrecht, sondern um ein Beweisverwertungsverbot.

Vielleicht sind die Quellen und Aktenzeichen einfach falsch, aber ich habe nirgendwo sonst Hinweise auf die zitierten Urteile gefunden, und die wären mit an Sicherheit grenzender Wahrscheinlichkeit irgendwo zitiert worden.

Es erinnert mich fatal an diesen Fall in den USA, in dem ein Rechtsanwalt verdonnert wurde, weil er einen Schriftsatz eingereicht hatte, dessen angegeben Rechtsquellen gar nicht existierten, weil der Schriftsatz von der KI erstellt worden war. Und die KI „weiß“ nicht, dass die Aktenzeichen Verweise auf real existierende Urteile sind. Die lernt nur, dass die Leute dann, wenn sie juristisch daherreden, immer so lustige Zahlen nach bestimmten Schemen angeben, und BGH halt besonders überzeugend wirkt. Als sei ein schön entworfenes Aktenzeichen an sich ein Argument. Oder „Such bei … nach …“.

Die KI lernt eben, dass man in irgendwelchen Rechtsstreitigkeiten gerne in gewissen Sprachmustern argumentiert, und welche Argumentationen zum Meinungskriegssieg führen.

Dabei habe ich manchmal den Eindruck, dass der Text sogar von echten Quellen genommen wurde, sich die Aktenzeichen aber dem KI-Modell entziehen, weil sie kein echtes Sprachmuster sind, und deshalb schematisch, linguistisch, verarbeitet werden. Als wären sie eine Sprache.

Man hat ja schon den Effekt beobachtet, dass KI-Systeme Sprachen beherrschten, darin reden und sie auch übersetzen konnten, auf die sie nie trainiert worden waren, von deren ihre Schöpfer noch gar nicht wussten, dass sie sie können. Weil die Systeme sie einfach beiläufig mit erlernt haben, was halt mit dem Trainingsmaterial so nebenbei alles mit reinkommt. Das heißt, dass KI-Systeme auch ohne explizites Training auf eine bestimmte Sprache deren Muster erkennen und erlernen, und im eigentlichen Sinne auch gar nicht zwischen den Sprachen unterscheiden, sondern einfach über die Statistiken „wissen“, welche Worte zusammengehören und mit welchen Worten man auf welche Anfrage antwortet.

Insofern könnte ich mir gut vorstellen, dass es passieren kann, dass die KI die Aktenzeichen als Sprache auffasst und sich über Statistiken deren Syntax und Semantik zusammenhalluziniert. Und dann meint, dass es die – ebenfalls halluzinierte, aber erstaunlich überzeugend und logisch und juristisch begründete, selbst erfundene – Rechtslage scheinbar mit Aktenzeichen begründet, indem sie einfach die Rechtslage in Syntax und Semantik der erfundenen Aktenzeichen-Sprache darstellt. Also ob man die Rechtslage in Aktenzeichensprache ausdrückt, die ja eine gewissen Syntax haben.

Das hört sich zwar schräg an, aber wenn man Aktenzeichen wie eine Sprache behandelt, haben die zwar keinen Semantik-Sinn, aber die Statistik wird kaum auf exakt Null hinauslaufen, irgendwelche winzigen Statistikwerte wird es geben, und von der KI entsprechend hochverstärkt.

Im Prinzip könnten sich zwei KI-Systeme sogar damit unterhalten.

Was ich nun erwarte

Ich habe ja die Angewohnheit, Gerichtsentscheidungen immer nachzulesen und keinem Aktenzeichen, keiner Quellenangabe zu trauen. Unzählige Male habe ich das erlebt, dass Urteile, Schriftsätze, Forderungen usw. grottenfalsch sind, weil Juristen gerne einfach nur in irgendeinen Kommentar schauen, in dem ein ganzes Urteil in einem Halbsatz erwähnt und zusammengefasst wird, und das meist schlampig, und da dann letztlich genau das Gegenteil drin steht.

Juristerei ist eine ganz tückische Angelegenheit. Vor allem deshalb, weil Richter das Argumentationsschema im Allgemeinen ist das ja so, aber in gewissen Sonderfällen wie diesen ist das ganz anders lieben. Manchmal stimmt es. Manchmal haben sie auch einfach keine Lust, sich an die Rechtslage zu halten und wollen anders urteilen, aber nicht so aussehen, als würden sie die Rechtslage nicht kennen. Und solche Entscheidungen werden fast immer falsch zitiert, nämlich entweder nur bezüglich der allgemeinen Rechtslage, oder der Sonderfall wird verallgemeinert, damit das in einem Halbsatz passt.

Aber: Da stimmen zumindest die Aktenzeichen oder Quellenangaben, und in den Entscheidungen geht es immerhin irgendwie um das angegebene Thema, nur steht oft das Gegenteil drin. Beruht aber auf einer gewissen Faulheit oder Zeitnot (oder einfach wirtschaftlichen Erwägungen), nur wenig Zeit in eine Sache zu stecken und deshalb mal schnell aus dem Kommentar abzuschreiben.

Ich würde aber drauf wetten, dass es in Zukunft einige, und vermutlich zunehmend Fälle, Anträge, Klagen, Schriftsätze, Abmahnungen und irgendwann auch Urteile gibt, die sich auf Entscheidungen stützen, die es gar nicht gibt oder die mit der Sache nichts zu tun haben, weil per KI erstellt.