Hadmut Danisch
Ansichten eines Informatikers

Die KI-Verblödung

Hadmut
26.9.2026 15:39
Uncategorized

Die Dampfmaschine hat die Muskelkraft ersetzt.

Die KI ersetzt das Hirn.

Drei lesenswerte Fundstücke vom Tage:

The greatest danger from artificial intelligence may not be a machine turning against humanity, but people gradually losing confidence in their own ability to think without it, Neapolis University Paphos professor Savvas A. Hadjichristofis warned.

Hadjichristofis, Vice-Rector for Research and Innovation and Professor of Artificial Intelligence at the university, said the deeper threat already had a name. “Uncritical trust in the machine”.

The existential danger, he told the Cyprus News Agency (CNA), may ultimately not take the form of a machine attacking humanity. Instead, “it may take the form of a society that no longer feels capable of making decisions without the machine”.

His warning comes as senior figures in the global AI industry, alongside researchers who have left leading technology companies, raise concerns about the speed at which advanced systems are developing and how they are being controlled.

Hadjichristofis said warnings from researchers who had resigned from major AI companies deserved particular attention because they came from people who understood the systems from the inside and had chosen to walk away from prestigious, highly paid positions.

That did not mean their predictions would necessarily come true, he said. However, “we have an obligation to listen to them seriously. They see an extremely powerful tool developing at enormous speed and becoming concentrated in the hands of a small group of companies.”

[…]

Da kommt noch was auf uns zu.

Und damit meine ich nicht die KI. Sondern die Verblödung der Menschheit, weil, wie es der erste Tweet beschreibt, von oben ein enormer Wettbewerbs- und Finanzdruck herrscht, alles durch KI-Plattformen wie Claude programmieren zu lassen. Und dann blickt keiner mehr durch, was das eigentlich macht. Eine Situation, die wir bisher nur von alten Produkten kennen, deren Entwickler längst verstorben oder in Rente sind, etwa Cobol-Programme, die noch immer in Betrieb sind, obwohl seit 40 Jahren keiner mehr draufgesehen hat.

Andererseits kann das auch positiv sein. Ich habe die Tage irgendwo gelesen, ich weiß aber nicht mehr wo, dass man irgendwo gerade mit KI große Mengen alten, unsicheren C und C++-Codes in zunächst funktionsgleichen Rust-Code übersetzen lässt, der dann getestet, und dann vom Menschen optimiert wird. Und das in einem Umfang, der manuell nicht möglich sei, womit also durchaus eine Verbesserung einhergeht, weil der Rust-Compiler viel mehr Sicherheitslöcher abfängt als C und C++.

Ich könnte mir gut vorstellen, und das drängt sich geradezu auf, dass die KI auch lernt, Cobol in moderne Sprachen zu übersetzen.

Obwohl mir, ehrlich gesagt, ein deterministischer KI-freier Transcompiler lieber wäre. Aber wir müssen eben mit der Arbeitsleistung zunehmend verblödender Menschen auch irgendwie auskommen.

Zunehmen stehen wir damit vor einer neuen Problemkategorie: Bisher nämlich hatten wir Probleme mit Programmcode, dessen Autoren und Versteher nicht mehr leben oder nicht mehr im Berufsleben, nicht mehr ansprechbar sind. Und einen 90-Jährigen im Altersheim nach Details von Code zu befragen, den er vor 50 Jahren geschrieben hat, ist auch nicht so erfolgsversprechend.

Zukünftig aber werden wir mit Code konfrontiert sein, den noch nie ein Menschen gesehen, gelesen, verstanden oder gar geschrieben hat. Wie bei Raumschiff Enterprise: To boldly read what no one has read before.

Bisher nämlich waren in der Menschheitsgeschichte ausnahmslos alle textlichen Darstellungen irgendwelcher Informationen von Menschen gemacht. Es gab (von ersten KI-Vorläufern wie Eliza mal abgesehen) keine Texte, die nicht von Menschen geschrieben worden waren. Und nun haben wir Texte, Programme, die nie ein Mensch durchdacht hat, weder geschrieben noch gelesen, die noch nie durch ein menschliches Gehirn gelaufen sind.

Wir werden sie schon quantitativ nicht mehr verstehen können.

Aber was machen wir, wenn wir sie auch qualitativ nicht mehr verstehen?