Nur ein Ich denkt – Unlogik und Phantasie im Transhumanismus

Ray Kurzweil gilt als einer der bekanntesten Vordenker des Transhumanismus, einer Theorie, deren Anhänger die Grenzen menschlicher Möglichkeiten, sei es intellektuell, physisch oder psychisch, durch den Einsatz technologischer Verfahren erweitern will. Er konstatiert eine sich ungeheuer beschleunigende technologische Entwicklung und prognostiziert für das Jahr 2045 das Erreichen einer künstlichen Intelligenz, mit welcher die Menschheit Unsterblichkeit erlangen könne (vgl. Wikipedia). Johannes Duve, Heidelberg, hat sich mit KI und Transhumanismus gründlich auseinandergesetzt, besonders mit Ray Kurzweils Buch „Die nächste Stufe der Evolution“, woraus der folgende Brief an Ray Kurzweil entstanden ist, der bislang unbeantwortet blieb. (hl)

Johannes Duve als Gastautor:

Sehr geehrter Ray Kurzweil,

zu dem Inhalt Ihres Buches „Die nächste Stufe der Evolution“ will ich Ihnen ein paar Gedanken mitteilen. Dabei beschränke ich mich in diesem Brief zunächst auf die ersten drei Kapitel Ihres Buches.

Ich habe noch von keinen Wissenschaftler gehört, und auch noch bei keinem Wissenschaftler gelesen, dass nicht er/sie einen genialen Gedanken gedacht, die Lösung eines Problems gefunden, eine neue Erkenntnis gehabt hat, sondern sein Neokortex. Kein Wissenschaftler hat bisher behauptet, dass sein Gehirn, dass Module des Neokortex – also vernetzte, neuronale Strukturen – Ideen, Gedanken und Erkenntnisse hervorgebracht hätten.

Ausnahmslos alle Wissenschaftler sprechen davon, dass: „ich eine Idee, einen Gedanken, eine Erkenntnis habe“. Wer das Problem, das hier für ihn entsteht, umgehen möchte, der spricht dann nicht von Ich, sondern von einem unbestimmten „man“, oder stellt die Lösung einer Aufgabe dar, ohne Bezug auf das eigene Ich, so als ob die Lösung ohne ein denkendes Ich zustande gekommen wäre.

„Ich denke“ ist eine der beiden Grundlagen aller wissenschaftlichen Arbeit. Die dem Denken vorangehende Tätigkeit des Menschen ist die Beobachtung eines Dings, eines Vorgangs. Also:

1. Ich beobachte etwas (was mir solange Rätsel ist, wie ich es nur beobachte).
2. Ich stelle denkend Zusammenhänge her, so dass Begriff mit Beobachtung verbunden wird, oder eine Beobachtung mit einer anderen, und dabei kann Ich eine Gesetzmäßigkeit erkennen und benennen.

Sie aber behaupten, dass nicht Sie es sind, der denkt, sondern neuronale Module. Und das ist Ihr grundlegender Irrtum.
Dabei leiten Sie Ihr Buch mit den Worten ein „stellte ich die These auf“. Sie sagen nicht, dass Ihr modularer Neokortex die Hypothese aufstellte. Das wäre auch ein ziemlicher Unsinn.
Man könnte einmal untersuchen, wie oft Sie in Ihrem Buch schreiben, dass „ich denke, etc. …“.

Weil Sie nicht wissen, was das Ich ist, gehen Sie dem Ich im dritten Kapitel mit der Frage „Wer bin Ich?“ nach. Und hier setzen Sie das Ich gleich zu Beginn dem Bewusstsein gleich. Was berechtigt Sie dazu, zwei Begriffe gleichzusetzen? Welcher Denkprozess hat Sie dazu gebracht?
Anstatt der Frage nach dem Ich nachzugehen, stellen Sie zwei Konzepte für Bewusstsein vor:

1. Bewusstsein sei die funktionale Fähigkeit, eine Außenwelt wahrzunehmen und die Außenwelt von einer Innenwelt zu unterscheiden.
2. Die Fähigkeit zum subjektiven Erleben (Qualia) aus innerer Perspektive.

Es wäre doch zunächst zu klären, um wessen Fähigkeit es sich hier handelt. Anstatt das Ich zu ergründen, lassen Sie lieber Bewusstsein aus Informationsverarbeitung entstehen.

Wenn ich Pflanzen, Tiere, Menschen und mich selbst beobachte und die Beobachtung denkend mit Begriffen verbinde, setze ich das beobachtende und denkende Ich voraus. Was ich aber beobachte und benenne, sind verschiedene Gestalten, Bewegungen, Äußerungen und Bewusstseinszustände.
Ich beschränke mich nachfolgend auf die Beobachtung von Bewusstseinszuständen.
Bei Pflanzen treten gegenüber der mineralischen Welt Lebensprozesse auf, aber kein Wachbewusstsein. Bei Tieren tritt, je nach Entwicklungsgrad in Abstufung, Wachbewusstsein auf, aber kein Ich-Bewusstsein. Erst beim Menschen kann von einem Ich-Bewusstsein gesprochen werden.

Wachbewusstsein bedeutet hier, wach für eine äußere Gegenstandswelt zu sein. Grundlage hierfür sind die Sinne als Werkzeuge. Ein Mensch ohne Sinne könnte auch wach sein, aber nur wach für eine Seele-Innenwelt, nicht aber für eine äußere Gegenstandswelt. Das Dargestellte könnte weiter differenziert werden, und würde ich Ihnen gerne darstellen, wenn Sie es wünschen.

Mir reicht hier festzuhalten, dass es je nach Entwicklungsgrad zu unterscheidende Bewusstseinszustände gibt, die beim Menschen mit einem individualisierten Ich das Wahrnehmen einer äußeren Welt und Gewahr-Werden des eigenen Ichs ermöglichen, also Wach- und Ich-Bewusstsein.

Wer bin Ich? Die Frage ist gut, aber Sie beantworten sie nicht. Was Sie für Ihren Transhumanismus brauchen, ist ein Bewusstsein, das durch komplexe Informationsverarbeitung „erweckt“ wird. Nur auf Basis dieser Reduzierung können Sie Ihre Vision der Unsterblichkeit weiterträumen und andere Menschen, die nicht wach genug sind, in die Irre führen.

Maschinen haben kein beobachtendes, auch kein denkendes Ich, auch kein Bewusstsein, weder Wach-, noch Ich-Bewusstsein. Sie sind auch nicht beseelt oder belebt. Maschinen sind nach menschlicher Idee entwickelte, mehr oder weniger komplex automatisierte Werkzeuge, die an- und ausgeschaltet werden. Automaten mit der Funktion von Geräuschbildung können heute  so konstruiert werden, dass die ausgestoßenen Geräusche der menschlichen Sprache ähnlich sind. Es bleiben dennoch seelenlose Geräusche. Ziel der Entwicklung von sogenannter KI ist ja auch nur größtmögliche Menschenähnlichkeit im Geräuschausstoß, um damit die Illusion einer menschlichen Begegnung im Zuhörer zu wecken.

In Ihrem Buch beschreiben Sie, wie Sie Ihr Bewusstsein erzeugendes, komplexes neuronales, also biologisches, aber digital ablesbares, Quellcode-basiertes Informationsverarbeitungsorgan, Ihren Neokortex,  mit einem externen Hochleistungsrechner und gigantischem Datenspeicher über Nano-Leitungen und Nanobots verbinden wollen, um Ihr Bewusstsein und Ihre Intelligenz unvorstellbar groß zu erweitern.

Forschung und Entwicklung von hochleistungsfähigen, digitalen Automaten habe das Ziel, Maschinen dem Menschen in seinen kognitiven Fähigkeiten zunächst ähnlich zu machen, dann aber in allen Bereichen zu übertreffen.

Sei das zweite Ziel erreicht, könne über Nanotechnologie die Auslesung des Neokortex und die Entschlüsselung des Quellcodes des menschlichen Neokortex vorangetrieben werden, um letztendlich ein externes Substrat zu schaffen, das Träger des menschlichen Bewusstseins werden könnte, wodurch der sterbliche Körper entbehrlich werden würde und das Bewusstsein als Identität des Menschen den biologischen Tod unbegrenzt überdauern könnte.

In der Einleitung Ihres Buches schildern Sie, anhand der rasanten Entwicklung der Automatisierung auf dem Gebiet der immer kleiner werdenden Hardware, der immer komplexeren Software und der daraus resultierenden Beschleunigung von Rechenoperationen:

– wie sich Singularität ereignen werde,
– dass der Mensch durch die genannte Entwicklung   seine Intelligenz neu erfinden müsse,
– dass Empfindungsfähigkeit durch Technik erschaffen werde,
– wie sich des Menschen Identität und Lebenssinn ändern werde,
– dass Sie daraus resultierende philosophische Fragen bearbeiten wollen,
– um dann Trends für die kommenden Jahre aufzuzeigen.

Sie skizzieren zunächst die Weltentstehung und sechs Entwicklungsepochen. Dabei fällt Ihnen auf, dass es einen Jemand gegeben habe, der die ersten Regeln aufgestellt habe, nach denen Nuklearkräfte Atome bilden. Alle weiteren Entwicklungsschritte basierten darauf, dass Atome und Moleküle Informationsträger seien.

Ihr Weltentstehungsprolog würde demnach so beginnen:

Im Urbeginne war ein JEMAND, der stellte die Regel auf, dass  Elementarteilchen trotz großer Abstoßungskraft durch eine Nuklearkraft atomare Einheiten bilden sollen, um fortan Informationsträger zu werden.
Der grundlegende Regler hat sich im weiteren Entwicklungsgang der Weltentstehung zurückgezogen und den immer intelligenter werdenden Informationsträgern, Atom und Molekül, das Feld überlassen.
Durch eine Fülle von Zufällen ist eine komplexe Welt entstanden, die auf einem stoffgebundenen Informationscode basiert, der sich selbst erfunden hat. In dieser komplexen Welt ist der komplexe Mensch mit Quellcode basiertem Gehirn entstanden.
Der Mensch ist heute dabei, seine Gehirnstruktur mit technischen Mitteln nachzubauen, um den zu langsam arbeitenden zerebralen Rechner durch externe Rechnerfunktionen gewaltig zu erweitern.

Sie formulieren ein weiteres Ziel zu Beginn des zweiten Kapitels als „Neuerfindung der naturgegebenen Intelligenz auf einem leistungsfähigeren Substrat, mit dem wir dann verschmelzen.“

Da ist also wieder ein Jemand oder viele Jemande, die eine Idee haben, eine binäre Zeichenfolge entwickeln, die sie durch weitere Ideen zu hochleistungsfähigen – Algorithmen in rasanter Geschwindigkeit abarbeitenden – leblosen und seelenlosen Automaten fortentwickeln. Die Ideen sollen aber nichts weiter gewesen sein, als Resultate komplex verknüpfter Neuronen mit einer gigantischen Rechenleistung, bei denkbar geringem Energieaufwand.

Ich möchte an dieser Stelle betonen, dass man Kernkraftwerke braucht, um mit maximalem Energieaufwand nicht das zu erreichen, was der Mensch mit minimalem Energieaufwand kann – unvoreingenommen wahrnehmen und verstehen, kreative, innovative Gedanken entwickeln, vielschichtige Gespräche eloquent führen.

Ich sehe und erkenne an die bisherigen Leistungen und die möglichen weiteren Entwicklungen auf dem Feld der Digitalisierung und Automatisierung. Aber, ich denke und bewerte diese Entwicklung anders als Sie.

Ihr Ziel ist Nichtsterblichkeit, gepaart mit gigantischer, übermenschlicher Intelligenz, und Sie erhoffen das mit rein technischen Mitteln zu erreichen. Ich präzisiere: weil Sie um die allgemein anerkannte Sterblichkeit des menschlichen Körpers wissen, damit auch das Ende Ihres Bewusstseins verbinden, das für Sie bloßes Erzeugnis ist, suchen Sie in der digitalen Automatisierungstechnik einen Ausweg für den Erhalt Ihrer kognitiven Leistungen und Ihres aus der  Informationsverarbeitung entspringendem Bewusstseins.
Sie suchen also nach einer täuschend echten, digitalisierten Kopie Ihrer bisherigen kognitiven Leistung, erweitert durch ein umfassendes, vergangenheitsorientiertes Weltwissen mit unvorstellbar großer Rechenleistung, die Sie mit Denkgeschwindigkeit verwechseln.
Sie wollen also zunächst das Bewusstsein als Ereignis Ihres Gehirns durch externe, technische Substrate erweitern; dann kann das geringere, biologische Informationsverarbeitungsorgan jederzeit abgeschaltet werden. Unsterblichkeit Ihres Bewusstseins wäre erreicht.

Bitte korrigieren Sie mich, wenn ich Sie bisher falsch verstanden habe.

Im zweiten Kapitel haben Sie die Entwicklung der auf digitalem Code und Algorithmen basierenden Software-Entwicklung und einer sich immer weiter miniaturisierenden Hardware dargestellt. Diese Automaten sollen soweit menschähnlich werden, dass ein Mensch nicht mehr unterscheiden kann, ob er mit einem Menschen, oder einem Automaten kommuniziert.
Dabei soll der Automat menschliche Denkprozesse durch Rechenoperationen kopieren und die Ergebnisse sprachlich täuschend echt präsentieren.

Das ist das eine Ziel des Transhumanismus – Automaten menschenähnlich zu machen, Rechenprozesse menschlichen Denkprozessen ähnlich zu machen.

– Was aber ist menschliches Denken?
– Wer, wenn nicht Ich, denkt, wenn ich denke?

Der Frage gehen Sie mit Verweis auf Ihr Buch über „Das Geheimnis des menschlichen Denkens“ kurz nach, indem Sie den modularen Aufbau und die modulare-parallele Funktion des Neokortex darstellen. Und Sie ergänzen richtig, dass die Neurowissenschaft Denken auf dieser Struktur nicht erklären kann.

– Denke Ich, oder denkt eine Struktur in mir?
– Ist Abarbeitung von Algorithmen ein Denkprozess?

Gegenwärtige Entwickler in den USA und in China haben durch Nachbau neokortikaler Strukturen selbstlernende, digitale Automaten hergestellt, die komplexe Spiele lernen und meisterlich beherrschen. Der letzte Stand beim Verfassen Ihres Buches beinhaltet die Fähigkeiten von GPT-4, bei juristischen Examen außergewöhnliche Leistungen zu zeigen. PALM-E, ein Roboter-Körper konnte einfache sprachliche Anweisungen folgerichtig umsetzen. Sie stellen aber auch fest, dass selbst hochleistungsfähige digitale Automaten keine Sonette schreiben, oder Trost spenden können. Auch wirken Automaten nur menschlich. Ihre Algorithmen wählen, unter unzähligen Möglichkeiten einen begonnenen Satz fortzusetzen, jeweils nur das  plausibelste Wort aus, was an der Wirklichkeit völlig vorbei gehen kann – was Sie fälschlicherweise Halluzination nennen. Es fehle den Automaten Kontextgedächtnis, Weltwissen und soziale Interaktionsfähigkeit.

Das sei aber nur ein Problem der Rechenleistung, wie auch die letzte Hürde auf dem Weg zur Singularität – die Erstellung von Programmen, womit und wonach digitale Automaten Programme selbst schreiben und eine Intelligenz-Explosion auslösen könnten, so dass bald auch eine umfangreiche Emulation (Nachahmung) des Gehirns möglich sein werde.

Damit nennen Sie das zweite und eigentliche Ziel aller Transhumanisten – zur Erlangung der Nichtsterblichkeit soll die Rechenleistung des eigenen Gehirns, inklusive des daraus resultierenden Bewusstseins, auf einen Automaten übertragen werden.

Interessant ist auch hier wieder, dass es zur Programmierung der Programmierfähigkeit Jemanden mit einer Idee braucht, der das zunächst denkt und dann in die Tat umsetzt.

• Was ist eine Idee?

Immerhin konstatieren Sie, dass mathematische und statistische Prozesse der sogenannten künstlichen Intelligenz den menschlichen Denkprozessen sehr unähnlich sein.
Weiter stellen Sie fest, künstliche Intelligenz, also programmierte Automaten könnten Sprache nur eingeschränkt verstehen, was die Automaten im Gesamtwissen ausbremse.

Ich möchte an dieser Stelle behaupten, dass Maschinen im Grunde nichts verstehen, da sie lediglich Algorithmen und Schaltkreise verarbeiten, und zwar so schnell, dass viele Menschen davon geblendet sind.

– Was ist Sprache?
– Was ist Verstehen?

Das zweite Kapitel schließen Sie ab mit der Darstellung der Forschung zur Verbindung von Gehirn und Computer, oder Neokortex mit der Cloud, die hier steht für gigantische Datenspeicher und externe Superrechner. Ermöglicht durch Nano-Elektroden und Nanobots gipfelt Ihre Vision in exponentiell wachsendem Bewusstsein und millionenfach ausgedehnter Intelligenz, die sogar auf den Quellcode unseres Gehirns zugreifen könne.

• Quellcode unseres Gehirns?

Folgerichtig schließen Sie mit dem dritten Kapitel die Frage nach dem Ich und dem menschlichen Bewusstsein an. Grundlegende Fragen habe ich eingangs besprochen.

Zu Ihrer Darstellung regelbasierter, zellulärer Automaten will ich nur mit Verweis auf bisher Gesagtes festhalten, dass hier wieder der Jemand eine Idee hatte und Regeln aufstellte.
Und Ihre Interpretation der operativen Veränderung am Gehirn fußt wieder auf dem unbegründeten Vorurteil, dass Gehirne denken und Entscheidungen träfen. Siehe hierzu meine einleitende Darstellung zum denkenden Ich.

An Locked-In-Patienten könnte man eine ganz einfache Erkenntnis gewinnen. Da lernen diese Patienten ihr Gehirn so als Werkzeug einzusetzen, dass über ein EEG abgeleitete Signale zum Schreiben von Buchstaben eingesetzt werden können.

Also, noch einmal langsam zum Mitdenken: ICH will, dass auf einem Bildschirm vor mir ein A erscheint. Also versetze ICH mein Gehirn so in Aktivität, dass ein elektro-magnetisches Wellenmuster entsteht, das durch ein EEG abgeleitet werden kann. Da vorher festgelegt und programmiert wurde, dass bei dem Auftreten eines bestimmten Musters von Gehirnwellen ein A auf dem Bildschirm angezeigt wird, kann ICH also so trainieren, dass ICH die einem A entsprechenden Hirnwellen hervorbringe. ICH, nicht mein Neokortex, bin initial tätig! Neuronale Strukturen sind nur das Werkzeug meines ICH.

Interessant ist noch Ihre Ausführung zu „Theseus` Schiff“.
Um die Austauschbarkeit aller Körperbausteine bei Erhalt Ihres Bewusstseins darzustellen, greifen Sie auf ein antikes philosophisches Rätsel zurück – das Schiff des Theseus.
Ich verstehe Ihren Denkansatz zu Theseus` Schiff so, dass Sie die Idee des Schiffes des Theseus auf einen Namen für ein bestimmtes Erscheinungsbild reduzieren, ein nominalistischer Ansatz. Der Name Theseus` Schiff ist nur Name, zeigt noch nicht einmal ein Besitzverhältnis an. Die Etikettierung aller möglichen Nachbildungen, ob in originalem, oder abweichendem Maßstab, mit „Theseus` Schiff“ taugt vielleicht als Verkaufsargument für Nostalgiker, nicht aber zur Lösung Ihrer Frage. Sie wollen ja Ihren Körper gänzlich durch digitale Automaten mit vernetzten Teilfunktionen ersetzen, wobei Sie glauben, dass dabei Ihr aus dem Informationsverarbeitungsorgan Neokortex entstandenes Bewusstsein erhalten bleibt.

An dieser Stelle will ich einen einfachen Exkurs in die Begriffe „Idee“ und „Erscheinung“ einfügen.
Der Begriff „Schiff“ ist zunächst die allgemeine Idee eines auf dem Wasser schwimmenden Fahrzeugs. Die allgemeine Idee des Schiffes lässt sich differenzieren in die Idee unterschiedlicher Schiff-Antriebstypen: Ruderschiffe, Segelschiffe, Motorschiffe. Die allgemeine Idee „Schiff“ lässt sich auch nach Baumaterial, nach Schiffsgröße oder nach Beförderungszweck differenzieren.
Theseus hatte eine Idee für eine Galeere. Diese Idee ließ er von einem Schiffsbauer realisieren. Damit ist die Idee „Theseus` Schiff“ in Erscheinung getreten.
Die Idee Schiff ist universeller, reiner Gedanke, der von jedem Menschen gedacht werden kann und in unzähligen Erscheinungsformen realisiert werden kann.
„Theseus` Schiff“ ist zunächst die Idee für ein bestimmtes Schiff, das im zweiten Schritt durch den Schiffsbauer in Erscheinung gebracht wird.

Wir sind in unseren irdischen Verhältnissen umgeben von sehr unterschiedlichen Gegenständen, die alle einmal für unsere Sinne in Erscheinung getreten sind, und wieder aus der Erscheinung verschwinden.
Bei menschengemachten Gegenständen leuchtet unmittelbar ein, dass ihrer Erscheinung eine Idee voranging.
Nehme ich den Begriff der Erscheinung an sich, dann macht er nur Sinn, wenn etwas durch ihn in Erscheinung getreten ist. Eine Idee. Was ist also eine Idee?
Wer dachte die Idee „Schiff“ vor der Erscheinung „Schiff“? Wer dachte die Idee „Baum“? „Kamel“? „Mensch“?

Hier kommen wir an den Punkt, wo Materialisten – und Ihr angeführter Protopanpsychismus¹ ist letztlich eine Spielart des Materialismus (an Materie gebundene Information erzeugt Bewusstsein) – das Denken gerne verlassen, weil sie sich durch ein Vorurteil eine Denkschranke gesetzt haben.
Einen schöpferischen Geist darf es nicht geben, auch wenn logisches Denken gerade dazu führt.
Statt dessen bevorzugen Sie, dass Ihr Bewusstsein und Ihre Gedanken Resultate neuronaler Informationsverarbeitungen sind, die, einmal geschaffen, erhalten bleiben, auch wenn die gesamte neurologische Struktur und Physiologie durch filigrane, hochleistungsfähige Hard- und Software ersetzt wird.

Das werden weder Sie, noch irgendwer jemals erleben.

Mit herzlichen Grüßen

Johannes Duve

PS.: Und ein erster Kommentar eines Freundes, dem ich den Brief zu lesen gab:
„Wenn Maschinen so schlau sein werden und all das Beschriebene können werden, wird es ihnen keine Freude bereiten, das Bewusstsein eines unreifen Menschen (und sei er der reifste Mensch aller Menschen) zu seinem Inhalt zu machen, und sie werden die Person einfach löschen.“ 😊

———-
1 Philosophische Perspektive, die die Idee vertritt, dass die (physischen) Grundbausteine der Realität eine Art Vorstufe von Bewusstsein oder mentale Eigenschaften haben.