Flutung mit KI-Fakes zur Wissenszerstörung?

Ist der ganze KI-Quatsch nicht einfach nur dumm, sondern ein systematischer Angriff auf unsere Diskussions- und Wissensgesellschaft?

Ich hatte schon die Vermutung geäußert, dass die Flut von KI-Müll auf X (Twitter) vielleicht nicht einfach nur der Müll von vielen Leuten ist, die sich wichtig machen und möglichst billig Content produzieren wollen, sondern ein orchestrierter und systematischer Angriff sein könnte, um das zu tun, was ich schon oft als Angriffsmethode „Vergifteter Brunnen“ beschrieben habe.

Es wird zunehmend schwierig, immer schwerer, Informationen noch zu trauen, sie zu verifizieren, weil im Prinzip jede Behauptung zu finden ist, alles berichtet wird, und man gar nicht mehr weiß, was stimmt und was nicht. Dasselbe mit Fotos und Videos. Es ist die perfekte Lüge, denn, das hatte ich schon beschrieben, aus Sicht des Informatikers und Kryptologen ist der Lügner nicht der, der immer lügt, denn dann könnte man sich darauf verlassen, dass seine Aussagen immer falsch sind und ihn insoweit als Informationsquelle nutzen. Der perfekte Lügner ist der, bei dem man nie weiß, ob er gerade die Wahrheit sagt oder nicht. Deshalb ist das klassische Philosophenmodell „Alle Kreter lügen, sagte der Kreter“ nutzlos, solange man nicht mehr denkt als ein Philosoph, weil es eben kein Selbstwiderspruch ist. Wenn nämlich die Kreter alle gute Lügner sind, dann lügen sie manchmal. Es könnte auch sein, dass nur ein paar Kreter lügen, und der einer davon ist. Das Einzige, was man daraus schließen kann, ist, dass nicht alle Kreter immer die Wahrheit sagen.

Den Verdacht der Brunnenvergiftung hatte ich auch schon bei den „Satireaccount“, denn eigentlich kenne ich keinen Satireaccount, der etwas liefert, was ich „Satire“ nennen würde. Alle, die mir da als „Satireaccount“ untergekommen sind, sind schlicht und einfach Lügner und keine Satiriker.

Und es zeigte sich immer wieder: Die Satire ist nur die Ausrede, wenn die Lüge auffliegt. Entlarvt man sie, oder fällt man auf eine Lüge herein, heißt es „Wie dumm bist Du, dass Du Satire nicht erkennst?“ oder „Wie undemokratisch bist Du, dass Du Satire nicht respektierst!“. Es ist aber keine Satire. Es ist einfach nur gelogen. Und wer den Unterschied zwischen Lüge und Satire nicht kennt, der kann sowieso kein Satiriker sein. Denn im Gegensatz zum Lügner, der auch lügen kann, ohne sich bewusst zu sein, was eine Lüge ist, muss der Satiriker wissen, was Satire ist. Woraus dann folgt, dass Satireaccounts praktisch immer Lügenaccounts sind und schon damit lügen, sich als Satireaccount zu bezeichnen.

Es bleibt der Effekt, dass es ein Angriff auf die Social Media zu sein scheint, indem man sie mit Informationen flutet, denen man eben nicht traut, oder aber auf die man reinfällt, sich blamiert, und dann nie wieder etwas glaubt. Eben das Prinzip des vergifteten Brunnens.

Schönes Beispiel war die Bezahlung der Antifa durch die Regierung. Da tauchte vor Jahren ein Schriftstück auf, das scheinbar belegte, dass die Antifa von der Regierung bezahlt werde. Aber so, dass man da leicht die Reißleine ziehen kann, weil da einige Hinweisinformationen versteckt waren, mit denen Eingeweihte und Wissende leicht hinweisen konnten, „Schau mal auf die Seitenzahl“ und ähnliches, „das ist doch offenkundig Fake – Merkst Du das nicht?“. Und jeder war blamiert, der darauf hereingefallen war, und niemals mehr wieder glaubte irgendwer, dass die Antifa von der Regierung bezahlt wurde – obwohl genau das durchaus der Fall war. Die Antifa wurde von der Regierung bezahlt, aber kaum einer traute sich mehr, das zu sagen, und die, die es noch sagten, wurden ausgelacht.

Wieso funktioniert das?

Weil die Leute nicht zwischen einer Fälschung der Übermittlung und der Wahrheit des Inhaltes unterscheiden können.

Die Leute sind fest überzeugt, dass wenn sie eine Botschaft als äußerlich gefälscht erkannt haben, die Aussage darin notwendigerweise auch unwahr sein muss.

Man kann also jeden Durchschnittsbürger bis runter zum Universaldeppen ganz einfach davon überzeugen, dass die Behauptung A unwahr ist, indem man ihm eben die Aussage A so schickt, dass es eine Fälschung ist, die er erkennen kann. Obwohl es nie den geringsten Gegenbeweis gegen A oder überhaupt eine Bewertung von A gab, glauben fürderhin eine Mehrzahl der Leute daran, dass A unwahr ist und lachen jeden aus, der noch A behauptet.

Wer allerdings sicherheitstechnisch/kryptographisch geschult ist, der weiß, dass er nach Empfang einer gefälschten Nachricht mit Inhalt A exakt genauso viel über A weiß, wie vor dem Empfang. Bis, allerdings, auf den Umstand, dass A kein Geheimnis ist, weil, wer auch immer die gefälschte Nachricht geschickt hat und warum auch immer, zumindest A kennen musste.

Etwas brachialer ausgedrückt:

Wenn man den Leuten eine Nachricht schickt, dass 2+2=4 ist und sie mit Elvis Presley oder Michael Jackson unterschreibt, ist das für enorm viele Leute ein hinreichender Grund, 2+2=4 für falsch zu halten. Das ist das Prinzip.

Aber selbst dann, wenn man da korrekt denkt und darauf nicht hereinfällt, ist die Quelle – etwa die social media – nicht mehr vertrauenswürdig, kann man nichts mehr glauben. Und das ist das Ziel. Die staatlichen Propagandamedien wie Rundfunk und Presse haben an Wirkung verloren, seit es social media gibt. Also versucht man, die Glaubwürdigkeit der Social Media zu zerstören, indem man sie mit Fake-News flutet und gleichzeitig „Faktenchecker“ losschickt.

Dasselbe Prinzip der Zerstörung jetzt in der Wissenschaft?

Ein Leser weist mich gerade auf das hin: KI-Fakebücher in Bibliotheken: Wissenschaftler schlagen Alarm

KI-generierte Sachbücher mit erfundenen Quellen, falschen Fakten und teils frei erfundenen Autoren sorgen in Bibliotheken und in der Wissenschaft zunehmend für Alarm. Diese finden inzwischen sogar Eingang in öffentliche Bibliotheken.

Wissenschaftliche Scherze wie die „Sokal-Affäre“ oder Wikipedia-Pannen wie jene um erfundene Personen der Zeitgeschichte waren gestern. Heute stellen KI-generierte Sachbücher mit fehlerhaften Inhalten und erfundenen Quellen ein zunehmendes Problem der Wissensgesellschaft dar. Ein Referent für „Open Science“ hat darob jüngst einen Hilferuf veröffentlicht.

Ende April veröffentlichte Stephan Wünsche, ein Fachreferent für Musik an der Universitätsbibliothek Leipzig, einen Beitrag mit dem Titel „How to Sell Bullshit Online (Fast)”. Darin klagt er über eine immer größere Zahl an Büchern in Bibliotheksbeständen, die äußerlich den Eindruck erwecken, es würde sich bei ihnen um seriöse Fachwerke handeln.

KI-generierte „Fachliteratur“ mit haarsträubenden inhaltlichen Mängeln

Tatsächlich stellten sie sich als KI-generierte Publikationen mit gravierenden inhaltlichen Unzulänglichkeiten und teilweise erfundenen Autoren heraus. Häufig stammten sie aus Self-Publishing-Verlagen – wie dem „Flip-Flop-Verlag“ aus München oder der Plattform „tredition“ aus Ahrensburg. Bücher dieser Art seien unter anderem in Bibliotheken in Leipzig, Dresden, Weimar und Hannover aufgetaucht.

[…]

Wünsche geht davon aus, dass KI die scheinbar wissenschaftlichen Bücher im Schnellverfahren erzeugt. Später erfolgt die Veröffentlichung über eine Self-Publishing-Plattform. Als Autorennamen kommen Pseudonyme wie „Valentin Fuchs“, „Robert H. Hummel“ oder „Sophia Weller“ zum Einsatz.

Die Urheber beziehen ihr Wissen über die Erstellung und Vermarktung der Bücher über einschlägige Onlinekurse. Sie verkaufen die Publikationen über Onlineplattformen und Bibliothekskataloge. Einnahmen generieren sie durch die Beteiligung am Verkaufspreis.

Stephan Wünsche sieht nicht nur die Verschwendung öffentlicher Mittel für den Ankauf qualitativ minderwertiger Wissenschaftsliteratur als Problem. Er befürchtet, dass viele Studierende die sachlichen Fehler in den Büchern nicht erkennen und damit Falschinformationen in Hausarbeiten und Forschung gelangen. Dies könnte perspektivisch das Vertrauen in das Wissenschaftssystem untergraben.

Es ist eine interessante Frage:

Ist es einfach nur Betrug, um Geld zu machen? Ich hatte das ja über Jahre, vor allem im Parallelblog Forschungsmafia beschrieben, dass im Prinzip das ganze Wissenschaftsverlagswesen Betrug ist, weil man unter dem Vorwand der Wissenschaft massenweise Schund und Müll für teuer Geld in die Bibliotheken stellt. An manchen Fakultäten haben die Publikationen regelmäßig mehr Autoren als Leser. Schon zu meiner Zeit standen die Unibibliotheken voll mit teuren Publikationsleichen, die niemals irgendwer wird aufschlagen. Aber die Konten der Verlagen waren so voll wie die Publikationslisten all der akademischen Publikationsscheißer. Da gibt es reihenweise Professoren mit ellenlangen Publikationslisten, voll mit Müll. Übles Beispiel sind die Gender-Studies, die eigentlich nur noch aus Fake-Publikationen bestehen. Da wird derselbe Quatsch immer und immer wieder wiederholt, und immer als kurzer Beitrag von ein paar Seiten in Sammelwerken herausgeben, um mit dem geringstmöglichen Aufwand und plagiiertem Dünnschiss wieder einen Eintrag in der Publikationsliste zu haben.

Kein Wunder also, dass manche Leute auf die Idee kommen, es elektronisch genauso zu machen wie Gender-Studies: Einfach irgendwelchen Müll raushauen – die Bibliotheken kaufen es, und es merkt keiner, weil es keiner liest (außer durchgeknallten Bloggern).

Oder geht es darum, unsere Wissensgesellschaft zu zerstören, indem die Universitäten mit Müll geflutet werden?

Das islamische Schema, nichts außer dem Koran?

Oder das Genderschema: Quality is a Myth, und alles ohnehin nur Sozialtheater, völlig egal, was man schreibt?

Oder das linke Schema: Was stimmt und was nicht, legt die Partei tagesaktuell fest?

Da kommt noch was auf uns zu, und man sollte es genau beobachten. Gut möglich, dass der akademische Zirkus dadurch zusammenfällt, weil man genauer hinschauen muss und dann auch herkömmliche analoge Schwindler auffliegen.

Ich will es mal so sagen: Irgendeine akademische „Wirtschaftsweise“ hat prophezeit, dass wir als Staat bald nur noch für drei Dinge Geld haben werden: Rüstung, Sozialkram und Zinsen. Von Bildung, Forschung und Lehre hat sie nichts gesagt. Dann hat sich dieser Universitätszirkus sowieso bald erledigt.