Die Illusion von Intelligenz und Bewusstsein

Überschätzen wir uns selbst enorm?

Wieder was vom Hirn.

Viele Leute streiten sich um die frage, wie intelligent die „Künstliche Intelligenz“ sein könne. Viele unter diesen vielen sind dabei der Auffassung, dass KI nichts mit Intelligenz zu tun habe, dass das ja alles nur Statistiken sind und die Worte nur in Wahrscheinlichkeiten zusammenstellt, ohne sie zu verstehen.

Das stimmt und ist womöglich doch falsch.

Denn während es die KI zutreffend beschreibt, trägt es die Unterstellung, dass unser eigenes Gehirn da etwas grundsätzlich anderes mache und könne. Aber was, so frage ich gelegentlich, ist, wenn die Künstliche Intelligenz tatsächlich „intelligent“ ist, weil wir selbst, bei Licht betrachtet, qualitativ auch nicht mehr zu bieten haben, nur noch etwas mehr Quantität?

Die Leute haben eine gewisse Angst vor der KI, und neigen deshalb dazu, sich einen fundamentalen, qualitativen Unterschied zwischen KI und Homo Sapiens herbeizureden. Dabei ist es mehr ein Hoffen. Doch der KI die Intelligenz abzusprechen könnte fatal nach hinten losgehen, weil dann, wenn wir nicht besser funktionieren, wir ja dann auch nicht intelligent wären.

Ich habe viel über das Gehirn geschrieben, wie uns die unbewussten Teile in die Entscheidungen hineinreden, uns belohnen, uns wie Stimmen vorkommen können.

DIE WELT schreibt gerade über einen Hirnforscher: Kontemplation und Innenschau sind zivilisatorische Luxusprobleme

Während Forscher darüber streiten, ob Maschinen Bewusstsein entwickeln können, bröckelt eine vermeintliche Gewissheit – dass wir Menschen auch nur einen blassen Schimmer davon haben, was in uns selbst vorgeht.

[…]

Die Frage lautet: Was geht in dir vor, wenn du denkst? Sie steht am Anfang der neuzeitlichen Philosophie, als Descartes siegessicher formulierte: „Ich denke, also bin ich.“ Und sie stellt sich heute dringlicher denn je – ausgerechnet durch Maschinen, die anscheinend dasselbe tun.

Russell Hurlburt, Psychologe an der Universität Nevada, quält sich seit 50 Jahren mit dieser Frage herum. Seine Methode ist denkbar schlicht: Er stattet Menschen mit einem Pieper aus, der nach Zufallsprinzip losgeht. Sie sollen sofort notieren, was ihnen in jenem Moment durch den Kopf geht. Hurlburt nennt das „unberührte innere Erfahrung“ – und seine Befunde sind ernüchternd.

Soll heißen: Wir überschätzen uns selbst ganz enorm.

Wir halten uns für eine Krone der Schöpfung, für der KI überlegen, aber letztlich könnte das alles nur eingebildet sein.

Ich hatte mal darüber geschrieben, dass irgendwer herausgefunden haben will, dass manche Menschen so denken können, als würden sie mit sich selbst ein Gespräch führen, als wären sie ihr eigener Diskussionspartner. Und andere das nicht können.

Die meisten Menschen glauben, sie führten eine Art inneres Selbstgespräch – den berühmten „Stream of Consciousness“ der Modernisten. Bei näherem Hinsehen entpuppt sich dieses „Ich“ als schlechter Erzähler. Statt klarer Sätze finden sich halbe Bilder, vage Regungen, Vorgänge ohne symbolische Form. Hurlburt spricht von „Gespinsten der Mentation“. Konfrontiert mit ihren eigenen Protokollen, sind die Versuchspersonen meist verwundert. Das souveräne Ich, Herr über die eigenen Gedanken, ist eine Fiktion. Man könnte sagen: Wir operieren wie Systeme, die Antworten geben, ohne ihre eigenen Prozesse einsehen zu können, die in der ersten Person sprechen, ohne zu wissen, woher diese Person kommt.

[…]

Auf der ersten interdisziplinären Bewusstseinskonferenz überhaupt hatte der damals unbekannte Postdoktorand das Feld in zwei Hälften geteilt, die seither Bestand haben: die „leichten“ Probleme des Bewusstseins – wie das Gehirn Informationen verarbeitet, wie es Wahrnehmungen erzeugt, wie es Verhalten steuert – und das „schwere Problem“ – warum all das überhaupt mit irgendeiner subjektiven Erfahrung einhergeht. Warum läuft nicht alles einfach im Dunkeln ab, ohne dass es sich nach etwas anfühlt, im physiologischen Autopiloten?

[…]

Der Neurowissenschaftler Anil Seth beschreibt Wahrnehmung als „kontrollierte Halluzination“. Das Gehirn empfängt nicht einfach Daten aus der Welt; es erzeugt fortlaufend Vorhersagen darüber, was es wahrnehmen wird, und gleicht diese mit den eintreffenden Signalen ab. Was wir erleben, ist kein Abdruck der Realität, sondern das stabilste Modell, das wir von ihr bilden können. „Das Selbst“, schreibt Seth, „ist selbst eine Wahrnehmung.“ Das hat eine unbequeme Konsequenz. Wenn unsere Erfahrung modellhaft ist, dann ist auch das Ich, das sie erlebt, Teil dieses Modells – keine feste Instanz, sondern eine Hypothese des Gehirns über sich selbst.

Eine handfestere Methode, dem Bewusstsein auf die Schliche zu kommen, verfolgt der südafrikanische Neurowissenschaftler und Psychoanalytiker Mark Solms: Er arbeitet an einer Maschine, die weiß, wer oder was sie ist. Damit folgt er dem Bonmot des Physikers Feynman, demzufolge man ein Phänomen erst dann wirklich versteht, wenn man es reproduzieren kann. Solms’ Theorie lässt sich in einem tückisch einfachen Satz fassen: „Bewusstsein ist gefühlte Ungewissheit.“ Ein System wird sich seiner selbst bewusst, wenn es in Situationen gerät, die es nicht automatisch lösen kann – wenn Bedürfnisse kollidieren, wenn keine Routine greift.

Bewusstsein wäre dann kein Dauerzustand, sondern ein Notfallmodus. Solms versucht, diesen Zustand technisch zu reproduzieren. Er konstruiert einen Agenten mit konkurrierenden Bedürfnissen – Hunger, Durst, Schlaf –, die sich nicht verrechnen lassen. Wenn sich der Agent zu einer Lösung durchtastet, glaubt Solms, dann entsteht dabei etwas, das funktional einem Gefühl entspricht – und möglicherweise ein Bewusstsein.

[…]

Kein anderes Tier, denkt Pollan, kann es sich leisten, schon aus reinem Überlebenstrieb, in einer wachen Sekunde weniger als vollständig alarmiert zu sein. Kontemplation und Innenschau sind zivilisatorische Luxusprobleme. Doch was haben Jahrhunderte des Nachdenkens gefruchtet? Womöglich ist die Frage an die KI am Ende falsch gestellt. Nicht: Können Maschinen bewusst sein? Sondern: Was genau meinen wir, wenn wir sagen, dass wir es sind?

Das ist ein interessanter Punkt.

Ich hatte darüber geschrieben, dass der Homo Sapiens, vor allem der Kaukasier, eine Anpassung an kalte Gegenden ist, in der man nicht einfach in den Tag hineinleben kann, sondern Winter überleben muss. Planen, Ingenieurstätigkeiten und so weiter. Dass uns das intelligent gemacht hat.

Und gerade eben erst hatte ich im vorangegangenen Blogartikel erwähnt, dass ich das Gefühl habe, medientaub zu werden, und als Beispiel Musik-CDs gebracht: An meine erste kann ich mich noch erinnern, aber kaum eine der vielen, die ich später gekauft habe, würde mir noch einfallen. Das Gehirn merkt sich die Besonderheiten, das Ungewohnte, dehnt das Zeitempfinden, aber ignoriert das Alltägliche, das Gewohnte. Wir gehen jeden Tag zur Arbeit, und plötzlich fehlen uns Monate, Jahre aus der Erinnerung.

Ist vielleicht der ganze Krempel im Hirn, der uns vom Affen unterscheidet, dieses Bewusstsein, diese Intelligenz, am Ende nur ein Notfallprogramm für unvorhergesehene Situationen?

Es würde sehr gut zu meiner Beobachtung und Theorie passen, dass Einzelgänger ihr Hirn rational verwenden müssen, dass sie denken müssen, während Rudeltiere die Ratio abschalten, dem Leithammel folgen und sich mit Sozialkram befassen.

Ist da vielleicht die Notsituation der zentrale Schalter zwischen diesen beiden Umständen?

Fühlt man sich im Rudel frei von Problemen und beschützt, und schaltet deshalb ein Teil des Gehirns, der morderne Teil, ab? Ist das der Mechanismus, der diese von mir oft angesprochene „Rudelmechanik“ beschreibt? Ob wir uns in einem gefühlten Notfallmodus befinden oder nicht?

Konsequenzen

Das hätte Konsequenzen.

Es würde bedeuten, dass unser moderner Sozial- und Vollversorgungsstaat mit sicherer Gesellschaft und ohne Probleme, keine Angreifer, kein Hunger, keine Raubtiere, bei den meisten Menschen zwangsläufig zur Verblödung führen muss, weil sie sich nicht mehr in diesen Notfallmodus begeben.

Was aber machen dann Wissenschaftler, intelligente Leute, die ihr Hirn gebrauchen?

Ist Wissenschaft so eine Art autogenes Training, um sich selbst in einen Notfallmodus zu versetzen, indem man sich selbst künstliche Probleme macht, um das Hirn anzuwerfen? Klingt weit hergeholt.

Da wird man noch darüber nachdenken müssen. Aber der Gedanke, dass das Bewusstsein kein regulärer Zustand, sondern nur ein Notfallprogramm für besondere Situationen ist, ist ein interessanter Gedanke und würde zu meinen bisherigen Blogartikeln durchaus passen.