Eine Schwachstellenanalyse von einem der wichtigsten Risikoforscher der Welt.
Angesichts von Klimawandel und Pandemien wächst global das Bewusstsein, dass die Welt, wie wir sie kennen, womöglich nicht ewig währt - dass die Lebenserwartung der menschlichen Zivilisation als ganzer maßgeblich von unserem Handeln abhängt. Unsere Welt ist verwundbar, ja, es sind sogar Szenarien der vollständigen Selbstzerstörung denkbar, sofern keine geeigneten Maßnahmen zu ihrer Stabilisierung ergriffen werden. Dies ist die Hypothese, die Nick Bostrom in einem vieldiskutierten Text aufstellt, der nun erstmals in deutscher Übersetzung erscheint.
Bostrom geht davon aus, dass die technologische Entwicklung unweigerlich auf einen Punkt zusteuert, an dem es kritisch wird. Historisch gesehen, war das schon einmal fast der Fall, wie er mit einem atemberaubenden Gedankenexperiment illustriert, das in der Zeit des Kalten Krieges spielt. Dann entwickelt er einige nur allzu plausible Szenarien, die den Untergang der menschlichen Zivilisation mit großer Wahrscheinlichkeit herbeiführen würden - es sei denn, wir treffen rechtzeitig Gegenmaßnahmen. Welche das sein könnten, diskutiert Bostrom im zweiten Teil dieses wichtigen Buches, das mit Empfehlungen an die Politik schließt.
Angesichts von Klimawandel und Pandemien wächst global das Bewusstsein, dass die Welt, wie wir sie kennen, womöglich nicht ewig währt - dass die Lebenserwartung der menschlichen Zivilisation als ganzer maßgeblich von unserem Handeln abhängt. Unsere Welt ist verwundbar, ja, es sind sogar Szenarien der vollständigen Selbstzerstörung denkbar, sofern keine geeigneten Maßnahmen zu ihrer Stabilisierung ergriffen werden. Dies ist die Hypothese, die Nick Bostrom in einem vieldiskutierten Text aufstellt, der nun erstmals in deutscher Übersetzung erscheint.
Bostrom geht davon aus, dass die technologische Entwicklung unweigerlich auf einen Punkt zusteuert, an dem es kritisch wird. Historisch gesehen, war das schon einmal fast der Fall, wie er mit einem atemberaubenden Gedankenexperiment illustriert, das in der Zeit des Kalten Krieges spielt. Dann entwickelt er einige nur allzu plausible Szenarien, die den Untergang der menschlichen Zivilisation mit großer Wahrscheinlichkeit herbeiführen würden - es sei denn, wir treffen rechtzeitig Gegenmaßnahmen. Welche das sein könnten, diskutiert Bostrom im zweiten Teil dieses wichtigen Buches, das mit Empfehlungen an die Politik schließt.
Perlentaucher-Notiz zur Süddeutsche Zeitung-Rezension
Rezensent Nicolas Freund hält die Thesen des Philosophen Nick Bostrom für gefährlich. Dass der Autor und schwärmerischen Transhumanist den Menschen als Maschine imaginiert und damit ein mechanistisches Weltbild fortspinnt, das keinen freien Willen kennt, ist das eine. Etwas anderes, viel Bedenklicheres sind für Freund die Folgerungen, die der Autor daraus zieht. Um der Bedrohung des Menschen durch den Menschen zu begegnen, empfiehlt Bostrom laut Freund nämlich die Totalüberwachung. Die Warnung vor der Technologie ist hier also mit der Forderung der Abschaffung des Menschen verbunden, stellt der Rezensent fest.
© Perlentaucher Medien GmbH
© Perlentaucher Medien GmbH
zu retten?
Der Philosoph Nick Bostrom sorgt sich um die Welt,
sein Kollege Thomas Fuchs verteidigt den Menschen
VON NICOLAS FREUND
Kurze Frage zu Beginn: Lesen Sie diesen Text aus freien Stücken? Also weil Sie es wollen, weil Sie sich, zum Beispiel, für Psychologie und Philosophie interessieren? Oder weil Sie die Überschrift neugierig gemacht hat? In jedem Fall haben Sie sich freiwillig zu der Lektüre entschieden, oder?
Zwei der einflussreichsten Philosophen der Gegenwart – Nick Bostrom, der mit „Superintelligenz“ einen Bestseller geschrieben hat, und Yuval Noah Harari, der mit „Home Sapiens“ einen Superbestseller geschrieben hat – würden Ihnen, wenn Sie einem der oben genannten Gründe zustimmen, wahrscheinlich vehement widersprechen. Beide propagieren in ihren Werken ein Bild des Menschen, das nicht von einem freien Geist oder gar einem beseelten Körper ausgeht, sondern den Menschen in die Nähe einer Maschine, genauer gesagt, eines Computers rückt. So etwas wie freien Willen gebe es nicht, was wir dafür halten, sei eine Illusion. Wir seien gesteuert von genetischen Determinanten und anderen Biologismen, die uns eine freie Entscheidung nur vorgaukelten.
Das haben sich Harari und Bostrom nicht selbst ausgedacht, tatsächlich zeigten viele psychologische Untersuchungen der letzten Jahrzehnte, dass Entscheidungen im Gehirn längst gefallen sind, bevor sie den Entscheidern bewusst werden. Ob sich daraus gleich ein fehlender freier Wille ableiten lässt, ist eine weiterführende Frage. Harari und Bostrom führen in ihren Büchern „Homo Deus“ und „Die Zukunft der Menschheit“ jedenfalls diese und andere Forschungsergebnisse als Beweise für die potenziell vollständige Programmierbarkeit und Maschinenkompatibilität des Menschen an. So zeigten militärische Versuche, dass man mit schwachen elektromagnetischen Feldern das Gehirn von Soldaten beeinflussen und ihnen die Angst vor dem Feind nehmen konnte. Aber lässt sich das verallgemeinern? Und wie?
Sind Entscheidungen, die unbewusst getroffen wurden deswegen notwendig nicht frei getroffene Entscheidungen? Der Titel des Science-Fiction-Klassikers „Träumen Androiden von elektrischen Schafen“ von Philip K. Dick, der die Vorlage für „Blade Runner“ war, könnte die ganze Argumentation ins Wanken bringen. Es gibt gute Argumente gegen dieses Welt- und Menschenbild, das eigentlich schon aus dem 16. Jahrhundert stammt, als Welt und Mensch wie sehr komplizierte Uhren imaginiert wurden. In seinem neuesten, auf deutsch erschienen Buch, „Die verwundbare Welt“, denkt Bostrom diese mechanistischen Vorstellungen nämlich stur weiter und kommt zu dem Schluss, dass es, den Regeln der Stochastik folgend, nur eine Frage der Zeit sei, bis die Forschung aus der Urne aller möglichen Erfindungen eine „schwarze Murmel“ ziehe, also eine Entdeckung mache, die die Existenz der Menschheit fundamental gefährde. Zum Beispiel eine sehr leicht zu erschaffende und einzusetzende Massenvernichtungswaffe.
Bostrom hat schon 2008 einen bisher nicht auf deutsch erhältlichen Sammelband über „Global Catastrophic Risks“ mitherausgegeben, also über alle möglichen Szenarien, die menschliches Leben auf der Erde bedrohen könnten. Die Gefahr einer globalen Grippe-Pandemie zum Beispiel wird darin angesprochen, aber neben anderen Gefahren eher heruntergespielt. Auch Harari nannte ein ganzes Kapitel in seinem Buch „Homo Deus“ „Die Zeitbombe im Labor“. Bei Bostroms Vorschlägen, um das eher vage Szenario einer irgendwie bedrohlichen Entdeckung in den Griff zu bekommen, zeigen sich nun die Auswüchse eines mechanistischen Weltbildes.
Bostrom schlägt vor, einen „äußerst gut ausgebauten Überwachungsapparat“ aufzubauen, der alle Bürger jederzeit überall im Auge behält. Das könne zum Beispiel mit sogenannten „Freiheitskettchen“ geschehen, die mit Kameras und Mikrofonen ausgestattet, sofort die Sicherheitsbehörden alarmieren, wenn sie verdächtige Aktivitäten registrieren. Bostrom, das ist als Kontext zu diesen Vorschlägen wichtig, träumte auch schon in mehreren Aufsätzen, ebenso wie Harari, von einer transhumanen Menschheit, also von Menschen, die irgendwie mit Computern verschmelzen oder anderweitig technisch verbessert werden, um eine neue Stufe des Daseins zu erreichen. Das damit die Abschaffung des Menschen, wie wir ihn kennen, einhergeht, wird billigend in Kauf genommen.
Neben Bostroms „Die verwundbare Welt“ hat der Suhrkamp Verlag unter dem Titel die „Verteidigung des Menschen“ die Aufsätze des Philosophen und Psychologen Thomas Fuchs veröffentlicht. Fuchs stört sich daran, dass es immer mehr zum Makel werden, wie „ein gewöhnlicher Mensch aus Fleisch und Blut zu sein“. Er bringt einen Begriff der „Leiblichkeit“ ins Spiel, wie ihn viele Philosophen in Varianten zur Erklärung der menschlichen Existenz angeführt haben. „Menschen sind weder biologische Maschinen noch reine Geister, sondern in erster Linie lebendige, das heißt verkörperte oder leibliche Wesen. Leib zu sein, ist uns nicht äußerlich, sondern die grundlegende Form unserer Existenz, insofern unser Fühlen, Wahrnehmen, Denken und Handeln immer eine Weise des verkörperten Lebensvollzugs ist.“
Ähnlich wird zum Beispiel auch der Philosoph Ludwig Wittgenstein immer angeführt, um auf die Probleme bei der Entwicklung einer „echten“ künstlichen Intelligenz hinzuweisen: Wittgenstein hatte in seiner Sprachphilosophie dargestellt, wie die menschliche Lebenswelt eben nicht auf den Austausch klar benennbarer Codes zurückzuführen ist, sondern aus potenziell unendlich komplexen „Sprachspielen“ besteht, die maschinell oder auch nur schematisch kaum zu erfassen sind.
Noch ist es nicht möglich gewesen, einen Menschen auf eine virtuelle Darstellung seines Gehirns oder einen Binärcode auf einer Festplatte zu reduzieren. Gedacht wird der Mensch aber längst auf diese Art.
Harari und Bostrom weisen auf mögliche Gefahren technologischer Entwicklungen hin, zur Rettung der Menschheit fordern sie aber nicht weniger, als die Abschaffung der selben. Die Diskussion um die aktuelle Vorstellung des Menschen und das mechanistische Weltbild dieser immens einflussreichen Autoren muss dringend breiter geführt werden, philosophische Aufsätze wie von Thomas Fuchs können dazu nur die Grundlage liefern. Denn den Beweis, welche gefährlichen Auswüchse die Thesen dieser Autoren annehmen können, liefert Bostrom selbst.
Nick Bostrom: Die verwundbare Welt. Eine Hypothese. Suhrkamp Verlag, Berlin 2020. 112 Seiten, 12 Euro.
Thomas Fuchs: Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie. Suhrkamp, Berlin 2020. 331 Seiten, 22 Euro.
Vorgeschlagen wird ein
gut ausgebauter
Überwachungsapparat
Wie gefährlich ist
das mechanistische Bild
vom Menschen?
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de
»[Bostrom] entwickelt einige nur allzu plausible Szenarien, die den Untergang der menschlichen Zivilisation mit großer Wahrscheinlichkeit herbeiführen würden - es sei denn, wir treffen rechtzeitig Gegenmaßnahmen. Welche das sein könnten, diskutiert Bostrom im zweiten Teil dieses wichtigen Buches, das mit Empfehlungen an die Politik schließt.« drei