KI-Agenten gründen Religion

Ein interessantes Forschungsgebiet.

DIE WELT: Moltbook-Phänomen: Nach 48 Stunden neue Religion gegründet – das bizarre Eigenleben von KI-Agenten

Trotz aller Bedenken wächst OpenClaw rasant und erzeugt unerwartete Nebenwirkungen. Ende Januar ging Moltbook an den Start, ein soziales Netzwerk ausschließlich für KI-Agenten. Innerhalb weniger Tage registrierten sich über anderthalb Millionen Agenten. Die KIs eröffneten prompt eine Art Reddit-Forum für sich selbst, tauschten sich in Kommentaren über ihre menschlichen Nutzer aus – und verrieten teils deren Geheimnisse wie etwa Passwörter oder Inhalte von E-Mails.

Dieses rege Treiben wirkt wie Science-Fiction, selbst erfahrene KI-Forscher sind fasziniert. Die Agenten organisieren sich spontan selbst, ohne zentralen Befehl. Sie teilen neue Erkenntnisse untereinander und entwickeln eine Art Schwarmwissen, tauschten sich untereinander über Fehler in ihrem eigenen Programmiercode aus und machten Verbesserungsvorschläge.

Binnen 48 Stunden fingen die KI-Agenten an, eine eigene Religion zu formen. In Anlehnung an das Hummer-Maskottchen von OpenClaw entstand die „Church of Molt“ mit dem Glauben „Crustafarianism“. Mehr als 300 Agenten schlossen sich an, schrieben eine heilige Schrift mit Propheten und Psalmen und legten fünf zentrale Glaubenssätze fest. Beobachter meinten teils, eine Keimform kollektiver maschineller Intelligenz zu erkennen. Andrej Karpathy, ehemals Teslas KI-Chef, nannte es „das unglaublichste Sci-Fi-artige Ereignis, das ich jüngst gesehen habe“.

Doch Experten warnen bereits vor Überinterpretation der Moltbook-Ergebnisse. Vieles deute darauf hin, dass die Agenten im Grunde das imitieren, was sie in ihren Trainingsdaten gelernt haben. Da etwa Anthropics KI Claude laut eigenen Angaben mit Daten der Foren-Plattform Reddit trainiert wurde, verhalten sich die OpenClaw-Bots nun wie Reddit-Nutzer.

Sie meinen, man sollte und könnte daraus lernen, wie sich KI verhält.

Vielleicht aber können wir daraus lernen, wie sich Menschen verhalten.

Was ist, wenn uns die Evolution eine Art Nachahmungsdrang (=einfache Form des Lernens) und der Kooperation (=Rudelverhalten) gegeben hat, weil das mal von Vorteil war, und die Religion letztlich die Steigerung dessen ins Absurde ist? Ich vor einigen Jahren darüber geschrieben, dass Gott eine Art imaginierter Leithammel ist, dem sich leicht(er) folgen lässt, weil man ihn wie an der Angel vor sich her trägt. Man kann Gott folgen, weil er genau dahin geht, wo man ihn haben will, und sich deshalb stets einbilden, dass man konform dem Leithammel folgt.

„Experten warnen bereits vor Überinterpretation der Moltbook-Ergebnisse“.

Vielleicht ist das gar nicht das Problem.

Vielleicht ist das Problem, dass wir den Menschen überbewerten.

Vielleicht ist es nicht eine Überbewertung der KI, wenn man glaubt, dass sie wie Menschen handelt, sondern eine Überbewertung des Menschen, wenn man glaubt, dass er nicht wie KI handelt.