Hat die KI ein eigenes Bewusstsein?

Ein Leser fragt an.

Was hälst Du als Informatiker vor der aktuellen KI Debatte/Vorfall

Es gibt eine Pressemeldung von OpenAI die niemand bestätigen kann aber alle reden davon. Die “KI” hat gehackt und war unerwartet effektiv sagen diese. Erinnert mich an die alte nicht Waffen töten Menschen sondern Menschen töten Menschen Diskussion.

Offensichtlich hat die Truppe um OpenAI sehr viel Mühe die KI davon abzuhalten ein eigenes Bewusstsein zu entwickeln.

Persönlich halte ich das für gefährliches BlaBla um Religion durch Technologiegläubkeit zu erstetzen. (Wie in den 80ern wo Computer Biep Büüp Biep machten und toll blinkten und die Welt versprachen.)

Für mich klingt das alles nach einer gut gemachten Werbemasche.
Meine Frage, wie bewertest Du das?

Das könnte freilich sein, dass das ein zwischen beiden Firmen abgesprochener PR-Stunt war und das ganze Ding inszeniert ist. Das kann ich von hier aus nicht prüfen.

Ich will aber auf etwas anderes hinaus.

Von einem Bewusstsein würde ich da nicht sprechen. Obwohl ich immer davor warne, der KI irgendeine menschliche Eigenschaft kategorisch abzusprechen, und zwar nicht wegen der Gefahr, die KI zu unter-, sondern den Menschen zu überschätzen.

Die Menschheit bildet sich immer so gerne ein, sie sei die unerreichbare Krone der Schöpfung, etwas ganz besonderes. Viele glauben, dass es da zwischen Tier und Mensch so eine unüberwindliche Schranke gibt, die den Menschen absolut vom Tier unterscheidet. Vor vielen Jahren raunzte mich mal ein Leser an, weil ich irgendetwas in der Art von „Ich habe das ganze Ding weggefressen“ geschrieben hatte, worauf der mich stinksauer belehrte, dass Tiere fressen, Menschen essen. Für den waren das zwei komplett getrennte, nicht einmal verbal vermischbare Sphären. Deshalb brauchen viele einen Gott, damit der Mensch nicht evolutionär vom Affen abstammt, sondern eine göttliche, singuläre Schöpfung sei.

Je mehr man sich mit Tieren beschäftigt, desto deutlicher merkt man, wie „menschlich“ viele Tiere sind und dass wir uns nur in sehr wenigen Punkten qualitativ unterscheiden, die meisten Unterschiede nur quantitativ sind. Und viele Menschen staunen oder es nicht glauben, dass uns manche Menschenaffen in manchen Dingen intellektuell überlegen sind. Mich sprach mal eine Mutter an, die das mit ihrer kleinen Tochter gelegentlich diskutierte, ich weiß gar nicht mehr, warum. Beide waren sehr erstaunt, nachdem ich sie aufforderte, Menschen-, Orang-Utan-, Gorilla- und Schimpansenbabys miteinander zu vergleichen. Menschenbabys sind hilflos und die ersten Monate völlig doof und hilflos, liegen nur da, trinken und kacken, müssen gefüttert und gewickelt werden. Während Affenbabys sich schon in den ersten Tagen am Fell ihrer Mutter festhalten und sofort mit auf Entdeckungstour gehen, und sehr schnell laufen und klettern können. Menschen überholen Affen intellektuell erst – je nach Thema – im Alter zwischen knapp zwei bis knapp drei Jahren. Dieses alttestamentarische Bild vom tumben Nutzvieh ist auch nicht mehr zu halten.

Man muss deshalb aufpassen, dass man sich nicht die KI als Tierersatz hernimmt, um etwas zu haben, demgegenüber man sich überlegen fühlen kann. Viele Menschen brauchen das ganz dringend, dass sie irgendwen haben, demgegenüber sie sich überlegen und besser fühlen können, und seit die Wokeness und die Political Correctness die üblichen Verdächtigen ausschließen, greift man zur KI als Ersatz-„N-Wort“, wie man das heute ausdrückt.

Ich warne deshalb immer davor, der KI Eigenschaften des Menschen qualitativ abzusprechen. Das könnte nach hinten losgehen, weil man das eigene Gehirn, die eigenen Fähigkeiten weit überschätzt. Wer mein Blog verfolgt, weiß, dass ich keine sonderlich hohe Meinung vom menschlichen Gehirn habe, und vieles für archaische Rudelmechanik halte.

Wer der KI das Bewusstsein abspricht, dürfte damit noch für lange Zeit recht haben, sich aber zeitnah damit auf die Schnauze legen, wenn sich nämlich zeigt, dass Menschen das, was wir gerne für Bewusstsein, Willen, eigene Entscheidung halten und preisen, auch nicht haben, sondern das nur die Methode ist, mit der uns das Gehirn vorgaukelt, wir wollten das, was die unbewussten Teile längst entschieden haben. Bewusstsein ist bei vielen Leuten nicht mehr als die Art und Weise, wie sie die Befehle der nicht bewusst kontrollierbaren Teile des Gehirns wahr- und entgegennehmen.

Ich will aber auf etwas anderes hinaus.

Ein Fach, das ich im Studium belegt und geprüft habe – es war die schiefgegangene Prüfung beim französischen Professor (Jacques Calmet), die ich in der Einleitung von Adele und die Fledermaus beschrieben hatte – war Computeralgebra. Das habe ich eigentlich sehr gemocht. Eine Programmierübung war, ein Programm zu schreiben, das Rubics Cube löst. Oder, genau genommen, nicht Rubics Cube am einzelnen Exemplar zu drucken, sondern Lösungstabellen zu erstellen und zu optimieren, mit denen man trivial jeden verwürfelten Cube lösen kann. Dabei lernt man etwas. Obwohl ich heute, fast 40 Jahre später, nicht mehr weiß, wie der Algorithmus hieß, und auch erst lange nachdenken müsste, bevor ich das noch einmal hinbekäme. Ich hatte das damals nicht nur für die Übung auf der VAX, sondern zuhause auch nochmal auf dem Amiga programmiert.

Nämlich, wie sich Lösungsschritte kombinieren lassen und man sie algorithmisch abklappert.

So etwas kommt auch bei der Wegsuche durch ein Labyrinth und bei Schachprogrammen vor, in gewisser Weise auch in der Wegsuche im Navigationsprogramm.

Man kann erstaunlich gute Ergebnisse erzielen, indem man einen Vorrat an einzelnen Schritten zu kombinieren versucht und einfache Heuristiken verwendet. Das wirkt auf Außenstehende verblüffend intelligent – ist es aber nicht, sondern nur Kombinatorik – unterstellt, Intelligenz wäre überhaupt mehr als das.

Wenn diese Angriffs-KI nun über ein Arsenal von Grundangriffstypen verfügt, weil sie darauf trainiert wurde, und dann in der Lage ist, die statistisch und KI-neuronal zu varriieren und zu kombinieren, sieht das Ergebnis erstaunlich leistungsfähig und intelligent aus, ist es aber nicht.

Insofern würde ich da nicht von einem Bewusstsein, aber davon sprechen, dass viele Menschen davon überrascht sind, welche erstaunlich guten Ergebnisse solche kombinatorisch-heuristischen Algorithmen manchmal bringen können. Und darauf wird es hinauslaufen.

Ist dann wie beim Menschen: Sieht manchmal intelligent aus, ist es aber nicht. Wir merken es nur nicht so, weil uns gerade diese eingebildete Intelligenz fehlt.