Mit den Fortschritten der künstlichen Intelligenz, der Digitalisierung der Lebenswelt und der Reduzierung des Geistes auf neuronale Prozesse erscheint der Mensch immer mehr als ein Produkt aus Daten und Algorithmen. Wir begreifen uns selbst nach dem Bild unserer Maschinen, während wir umgekehrt unsere Maschinen und unsere Gehirne zu neuen Subjekten erheben. Gegen diese Selbstverdinglichung des Menschen setzt der Philosoph und Psychiater Thomas Fuchs einen Humanismus der Verkörperung: Unsere Leiblichkeit, Lebendigkeit und verkörperte Freiheit sind die Grundlagen einer selbstbestimmten Existenz, die die neuen Technologien nur als Mittel gebraucht, statt sich ihnen zu unterwerfen.
Dieser Download kann aus rechtlichen Gründen nur mit Rechnungsadresse in D, A, F, L, I ausgeliefert werden.
Frankfurter Allgemeine Zeitung | Besprechung von 09.08.2020Sind wir etwa doch keine Algorithmen?
Verteidigung der natürlichen Intelligenz: Der Psychiater und Philosoph Thomas Fuchs weist den körperlosen Visionen der Transhumanisten eklatante Denkfehler nach.
Der Glaube daran, dass Computer demnächst ein Bewusstsein entwickeln werden und uns Menschen dann sagen, wo's langgeht, hat sich außerhalb des Silicon Valley noch nicht allgemein durchgesetzt. Intuitiv scheint sich irgendetwas gegen die Vorstellung zu sträuben. Aber wenn man den Glauben in dessen einzelne Bestandteile zerlegt, stößt man auf lauter Annahmen, die durchaus auf breites Einverständnis zählen dürften: Den Menschen mache im Wesentlichen aus, was in seinem Gehirn vorgeht; Gehirntätigkeit sei Informationsverarbeitung; Informationen seien Daten. Aus diesen Elementen lässt sich dann im Umkehrschluss ohne weiteres folgern: Wenn es nur gelingt, genauso viel Daten zusammenzubringen wie das menschliche Gehirn (manche Verfechter der Künstlichen Intelligenz rechnen mit 10 hoch 16 Operationen pro Sekunde), kann Bewusstsein künstlich erzeugt werden, das dann in der Lage ist, sich selbständig zu machen. Es ist eine eigentümlich abstrakte, entmaterialisierte Welt, in der solche Planspiele ihren Schauplatz haben - eine Welt jedoch, die um so mehr an Plausibilität gewinnen dürfte, je vollständiger auch die Alltagswelt über das Smartphone in Daten eingetaucht ist.
Für gewöhnlich bekommen auf dem Markt vor allem solche Bücher Aufmerksamkeit, die derartige Spekulationen beim Nennwert nehmen und zu Epochenbrüchen hochrechnen. Der Historiker Yuval Noah Harari zum Beispiel hatte viel Erfolg mit seinem Titel "Homo Deus", in dem er angesichts der neuen technischen Verheißungen nicht nur den Humanismus und den Individualismus, sondern auch gleich den Menschen selbst zu einer Sache der Vergangenheit erklärte: "Homo sapiens ist ein obsoleter Algorithmus". Deshalb fällt das neue Buch von Thomas Fuchs, das bei Suhrkamp unter dem etwas großräumigen Titel "Verteidigung des Menschen" erschienen ist, etwas aus dem Rahmen. Fuchs, der an der Universität Heidelberg die Karl-Jaspers-Professur für philosophische Grundlagen der Psychiatrie und Psychotherapie innehat, lässt sich auf kulturkritische oder kulturaffirmative Räsonnements kaum ein. Er untersucht vielmehr mit nicht nachlassender Beharrlichkeit die einzelnen Elemente, aus denen der Glaube an die technologische Evolution gewoben ist. Verblüffend und erhellend zugleich ist dabei, wie einfach inmitten der einschüchternden Komplexität der Materie letztlich die Kategorienfehler sind, denen er auf die Spur kommt - einfach, indem er einen Schritt zurücktritt.
Das fängt schon mit der Abwehr der unscheinbaren Behauptung an, dass Computer es mit "Informationen" zu tun hätten. Doch damit Daten zu Informationen werden, bedürfen sie eines Empfängers, der sie versteht. Eine von einem möglichen Adressaten losgelöste Information ist ein Widerspruch in sich. "Ein Universum aus Informationen, die von niemandem verstanden würden", schreibt Fuchs, "wäre - riefe man nicht Gott zu Hilfe - ein sinnloser Begriff." Der Computer allein verarbeitet weder Informationen noch rechnet oder denkt er: "Für sich betrachtet, wandelt der Apparat nur elektronische Muster nach programmierten Algorithmen in andere Muster um."
Diese Klärung hat weitreichende Folgen. Denn die Daten, mit denen das Gehirn umgeht, sind im Unterschied zu denen des Computers, durchaus Informationen - aber nur insofern, als das Gehirn eben nicht für sich allein steht. Damit ist Fuchs bei der zweiten Behauptung, der er einen Denkfehler nachweist: dass das menschliche Bewusstsein mit den Operationen des Gehirns identisch sei. Eine plastische Illustration dieser Auffassung ist das Gedankenexperiment des "Gehirns im Tank", bei dem sich der Philosoph Hilary Putnam ein dem Körper entnommenes und in einer Nährlösung eingelegtes Gehirn vorstellte: Die Daten, die ihm fortlaufend ein Supercomputer einspeist, sorgen dafür, dass es das Bewusstsein eines ganz normalen Lebens in der Welt hat. "Woher nehmen Sie eigentlich die Gewissheit", ergänzte der Philosoph Thomas Metzinger, "dass Sie sich nicht jetzt gerade, während Sie dieses Buch lesen, in einem Gefäß mit einer Nährlösung befinden?"
Fuchs erwidert, dieses Experiment beweise nur, was es voraussetzt, dass nämlich alles Erleben bloß eine Datenansammlung im Gehirn sei. Doch diese Annahme ignoriere die enge Verbindung, die das Organ des Gehirns mit einem lebendigen Körper eingeht: "Bewusstsein entsteht nicht erst im Kortex, sondern es resultiert aus den fortlaufenden vitalen Regulationsprozessen, die den ganzen Organismus mit einbeziehen und die im Hirnstamm und höheren Zentrum integriert werden." Ohne den Körper sei die Einbeziehung der äußeren Welt, die das Bewusstsein charakterisiert, nicht zu erklären: "Bewusstsein ist überhaupt kein lokalisierbarer Gegenstand, auf den man zeigen könnte wie auf einen Stein oder Apfel. Es ist ein Wahrnehmen-von. . ., Sprechen-mit . . ., Sich-Erinnern-an . . ., Wünschen-von . . ., das heißt, ein gerichteter Prozess, der eine Welt eröffnet." Nicht Gehirnen könne man daher Bewusstsein zusprechen, sondern nur Menschen.
Damit ist Fuchs beim Kern seines Buchs angekommen. Es ist von der anhaltenden Verwunderung darüber durchzogen, dass eine so gegen alle Intuition gehende Vorstellung Raum greifen konnte wie die eines Menschen ohne Körper. Seinen eigenen Ansatz nennt Fuchs "verkörperte Anthropologie"; er beruft sich dabei auf die "embodied cognitive neuroscience", die in den letzten beiden Jahrzehnten die Zusammenhänge zwischen Subjekt, Organismus und Umwelt in den Vordergrund rückt. Als "Zerebrozentrismus" bezeichnet er die Idee, den Menschen als Kopfgeburt, als reines Gehirnwesen, zu betrachten, so wie es bei manchem Reden über Künstliche Intelligenz geschieht und erst recht bei denen, die den menschlichen Geist auf eine Festplatte laden wollen (das sogenannte "mind uploading"). Solchen transhumanistischen Phantasien, die die konkrete körperliche Existenz weniger als Ermöglichung denn als Hindernis, als Einschränkung der persönlichen Freiheit verstehen, hält er ein erstaunlich poetisches Zitat von Immanuel Kant aus der Kritik der reinen Vernunft entgegen: "Die leichte Taube, indem sie im freien Fluge die Luft teilt, deren Widerstand sie fühlt, könnte die Vorstellung fassen, daß es ihr im luftleeren Raum noch viel besser gelingen werde." Doch der luftleere Raum ist ein Trugbild. Das Bewusstsein, ergänzt Fuchs, bedarf der Materialität des Körpers, um zu existieren.
Den radikalsten Kategorienfehler macht Fuchs dann in der Verwechslung des Grundlegendsten, des Lebens, mit dessen Funktionen aus. Man spricht von "artificial life", wenn sich zum Beispiel datenakkumulierende Roboter die besten Strategien fürs Go-Spiel selbst beibringen (AlphaGo Zero) und damit mühelos die besten menschlichen Spieler schlagen können - so als wäre die Simulation von Funktionen des Lebens dasselbe wie das Leben selbst. Sogar ein so kluger und origineller Kopf wie James Lovelock (der Schöpfer des Begriffs "Gaia"), auf den Fuchs nicht verweist, schreibt: "Das Ziel des Kosmos ist es, intelligentes Leben hervorzubringen und zu erhalten" und rückt die Intelligenz der Apparate damit in eine evolutionäre Linie mit der der Menschen. Dass das Leben eine Selbsttätigkeit ist, die von keiner Simulation eingeholt werden kann, dieser schlichte Umstand wird bei einem solch leichtfertigen Sprachgebrauch einfach ausgeklammert. Fuchs schreibt: "Die Annahme, Organismen seien nichts anderes als Algorithmen, verkennt die Tatsache, dass Leben auf der Selbstorganisation eines biologischen Systems beruht, die sich nur in Begriffen von Selbsterhaltung, Homöostase, Stoffwechsel, Differenzierung und Wachstum beschreiben lässt."
In der Aufsatzsammlung kommen noch andere Themen aus dem Tätigkeitsfeld des Autors zur Sprache, die personale Identität in der Demenz zum Beispiel oder die Dissonanzen von zyklischem und linearem Zeiterleben. Aber der Hauptakzent der meisten Essays liegt doch in der Warnung davor, sich beim Verständnis des Menschen dem Verstehenshorizont von Computern anzupassen. Das ist sehr einleuchtend, und gerade die sich kulturtheoretischer Spekulationen weitgehend enthaltende Nüchternheit regt auch zum Weiterdenken an. Es ist vielleicht nicht nur voreilig, sich mit lässiger Gebärde vom Lebewesen Mensch zu verabschieden. Es ist auch ignorant und fahrlässig. Eine generelle Abwertung von Erfahrung steckt darin, sowohl persönlicher als auch jener, die in den Kulturen enthalten ist. "Genügt uns am Ende die perfekte Simulation - der Schein des Anderen?", fragt Fuchs.
Die Gefahr besteht in Wirklichkeit womöglich gar nicht darin, dass sich unsere Apparate selbständig machen. Bedrohlicher könnte es sein, dass Menschen dies nur behaupten, um ihre Verantwortung auf die Apparate abzuwälzen - bei der gezielten Entfesselung halbautonomer Waffensysteme zum Beispiel. Vielleicht ist die eingebildete Kränkung, die der Mensch durch seine Apparate zu erleiden vorgibt, die eigentliche politische Gefahr.
MARK SIEMONS.
Thomas Fuchs: "Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie". Suhrkamp Verlag, 331 Seiten, 22 Euro.
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main
Verteidigung der natürlichen Intelligenz: Der Psychiater und Philosoph Thomas Fuchs weist den körperlosen Visionen der Transhumanisten eklatante Denkfehler nach.
Der Glaube daran, dass Computer demnächst ein Bewusstsein entwickeln werden und uns Menschen dann sagen, wo's langgeht, hat sich außerhalb des Silicon Valley noch nicht allgemein durchgesetzt. Intuitiv scheint sich irgendetwas gegen die Vorstellung zu sträuben. Aber wenn man den Glauben in dessen einzelne Bestandteile zerlegt, stößt man auf lauter Annahmen, die durchaus auf breites Einverständnis zählen dürften: Den Menschen mache im Wesentlichen aus, was in seinem Gehirn vorgeht; Gehirntätigkeit sei Informationsverarbeitung; Informationen seien Daten. Aus diesen Elementen lässt sich dann im Umkehrschluss ohne weiteres folgern: Wenn es nur gelingt, genauso viel Daten zusammenzubringen wie das menschliche Gehirn (manche Verfechter der Künstlichen Intelligenz rechnen mit 10 hoch 16 Operationen pro Sekunde), kann Bewusstsein künstlich erzeugt werden, das dann in der Lage ist, sich selbständig zu machen. Es ist eine eigentümlich abstrakte, entmaterialisierte Welt, in der solche Planspiele ihren Schauplatz haben - eine Welt jedoch, die um so mehr an Plausibilität gewinnen dürfte, je vollständiger auch die Alltagswelt über das Smartphone in Daten eingetaucht ist.
Für gewöhnlich bekommen auf dem Markt vor allem solche Bücher Aufmerksamkeit, die derartige Spekulationen beim Nennwert nehmen und zu Epochenbrüchen hochrechnen. Der Historiker Yuval Noah Harari zum Beispiel hatte viel Erfolg mit seinem Titel "Homo Deus", in dem er angesichts der neuen technischen Verheißungen nicht nur den Humanismus und den Individualismus, sondern auch gleich den Menschen selbst zu einer Sache der Vergangenheit erklärte: "Homo sapiens ist ein obsoleter Algorithmus". Deshalb fällt das neue Buch von Thomas Fuchs, das bei Suhrkamp unter dem etwas großräumigen Titel "Verteidigung des Menschen" erschienen ist, etwas aus dem Rahmen. Fuchs, der an der Universität Heidelberg die Karl-Jaspers-Professur für philosophische Grundlagen der Psychiatrie und Psychotherapie innehat, lässt sich auf kulturkritische oder kulturaffirmative Räsonnements kaum ein. Er untersucht vielmehr mit nicht nachlassender Beharrlichkeit die einzelnen Elemente, aus denen der Glaube an die technologische Evolution gewoben ist. Verblüffend und erhellend zugleich ist dabei, wie einfach inmitten der einschüchternden Komplexität der Materie letztlich die Kategorienfehler sind, denen er auf die Spur kommt - einfach, indem er einen Schritt zurücktritt.
Das fängt schon mit der Abwehr der unscheinbaren Behauptung an, dass Computer es mit "Informationen" zu tun hätten. Doch damit Daten zu Informationen werden, bedürfen sie eines Empfängers, der sie versteht. Eine von einem möglichen Adressaten losgelöste Information ist ein Widerspruch in sich. "Ein Universum aus Informationen, die von niemandem verstanden würden", schreibt Fuchs, "wäre - riefe man nicht Gott zu Hilfe - ein sinnloser Begriff." Der Computer allein verarbeitet weder Informationen noch rechnet oder denkt er: "Für sich betrachtet, wandelt der Apparat nur elektronische Muster nach programmierten Algorithmen in andere Muster um."
Diese Klärung hat weitreichende Folgen. Denn die Daten, mit denen das Gehirn umgeht, sind im Unterschied zu denen des Computers, durchaus Informationen - aber nur insofern, als das Gehirn eben nicht für sich allein steht. Damit ist Fuchs bei der zweiten Behauptung, der er einen Denkfehler nachweist: dass das menschliche Bewusstsein mit den Operationen des Gehirns identisch sei. Eine plastische Illustration dieser Auffassung ist das Gedankenexperiment des "Gehirns im Tank", bei dem sich der Philosoph Hilary Putnam ein dem Körper entnommenes und in einer Nährlösung eingelegtes Gehirn vorstellte: Die Daten, die ihm fortlaufend ein Supercomputer einspeist, sorgen dafür, dass es das Bewusstsein eines ganz normalen Lebens in der Welt hat. "Woher nehmen Sie eigentlich die Gewissheit", ergänzte der Philosoph Thomas Metzinger, "dass Sie sich nicht jetzt gerade, während Sie dieses Buch lesen, in einem Gefäß mit einer Nährlösung befinden?"
Fuchs erwidert, dieses Experiment beweise nur, was es voraussetzt, dass nämlich alles Erleben bloß eine Datenansammlung im Gehirn sei. Doch diese Annahme ignoriere die enge Verbindung, die das Organ des Gehirns mit einem lebendigen Körper eingeht: "Bewusstsein entsteht nicht erst im Kortex, sondern es resultiert aus den fortlaufenden vitalen Regulationsprozessen, die den ganzen Organismus mit einbeziehen und die im Hirnstamm und höheren Zentrum integriert werden." Ohne den Körper sei die Einbeziehung der äußeren Welt, die das Bewusstsein charakterisiert, nicht zu erklären: "Bewusstsein ist überhaupt kein lokalisierbarer Gegenstand, auf den man zeigen könnte wie auf einen Stein oder Apfel. Es ist ein Wahrnehmen-von. . ., Sprechen-mit . . ., Sich-Erinnern-an . . ., Wünschen-von . . ., das heißt, ein gerichteter Prozess, der eine Welt eröffnet." Nicht Gehirnen könne man daher Bewusstsein zusprechen, sondern nur Menschen.
Damit ist Fuchs beim Kern seines Buchs angekommen. Es ist von der anhaltenden Verwunderung darüber durchzogen, dass eine so gegen alle Intuition gehende Vorstellung Raum greifen konnte wie die eines Menschen ohne Körper. Seinen eigenen Ansatz nennt Fuchs "verkörperte Anthropologie"; er beruft sich dabei auf die "embodied cognitive neuroscience", die in den letzten beiden Jahrzehnten die Zusammenhänge zwischen Subjekt, Organismus und Umwelt in den Vordergrund rückt. Als "Zerebrozentrismus" bezeichnet er die Idee, den Menschen als Kopfgeburt, als reines Gehirnwesen, zu betrachten, so wie es bei manchem Reden über Künstliche Intelligenz geschieht und erst recht bei denen, die den menschlichen Geist auf eine Festplatte laden wollen (das sogenannte "mind uploading"). Solchen transhumanistischen Phantasien, die die konkrete körperliche Existenz weniger als Ermöglichung denn als Hindernis, als Einschränkung der persönlichen Freiheit verstehen, hält er ein erstaunlich poetisches Zitat von Immanuel Kant aus der Kritik der reinen Vernunft entgegen: "Die leichte Taube, indem sie im freien Fluge die Luft teilt, deren Widerstand sie fühlt, könnte die Vorstellung fassen, daß es ihr im luftleeren Raum noch viel besser gelingen werde." Doch der luftleere Raum ist ein Trugbild. Das Bewusstsein, ergänzt Fuchs, bedarf der Materialität des Körpers, um zu existieren.
Den radikalsten Kategorienfehler macht Fuchs dann in der Verwechslung des Grundlegendsten, des Lebens, mit dessen Funktionen aus. Man spricht von "artificial life", wenn sich zum Beispiel datenakkumulierende Roboter die besten Strategien fürs Go-Spiel selbst beibringen (AlphaGo Zero) und damit mühelos die besten menschlichen Spieler schlagen können - so als wäre die Simulation von Funktionen des Lebens dasselbe wie das Leben selbst. Sogar ein so kluger und origineller Kopf wie James Lovelock (der Schöpfer des Begriffs "Gaia"), auf den Fuchs nicht verweist, schreibt: "Das Ziel des Kosmos ist es, intelligentes Leben hervorzubringen und zu erhalten" und rückt die Intelligenz der Apparate damit in eine evolutionäre Linie mit der der Menschen. Dass das Leben eine Selbsttätigkeit ist, die von keiner Simulation eingeholt werden kann, dieser schlichte Umstand wird bei einem solch leichtfertigen Sprachgebrauch einfach ausgeklammert. Fuchs schreibt: "Die Annahme, Organismen seien nichts anderes als Algorithmen, verkennt die Tatsache, dass Leben auf der Selbstorganisation eines biologischen Systems beruht, die sich nur in Begriffen von Selbsterhaltung, Homöostase, Stoffwechsel, Differenzierung und Wachstum beschreiben lässt."
In der Aufsatzsammlung kommen noch andere Themen aus dem Tätigkeitsfeld des Autors zur Sprache, die personale Identität in der Demenz zum Beispiel oder die Dissonanzen von zyklischem und linearem Zeiterleben. Aber der Hauptakzent der meisten Essays liegt doch in der Warnung davor, sich beim Verständnis des Menschen dem Verstehenshorizont von Computern anzupassen. Das ist sehr einleuchtend, und gerade die sich kulturtheoretischer Spekulationen weitgehend enthaltende Nüchternheit regt auch zum Weiterdenken an. Es ist vielleicht nicht nur voreilig, sich mit lässiger Gebärde vom Lebewesen Mensch zu verabschieden. Es ist auch ignorant und fahrlässig. Eine generelle Abwertung von Erfahrung steckt darin, sowohl persönlicher als auch jener, die in den Kulturen enthalten ist. "Genügt uns am Ende die perfekte Simulation - der Schein des Anderen?", fragt Fuchs.
Die Gefahr besteht in Wirklichkeit womöglich gar nicht darin, dass sich unsere Apparate selbständig machen. Bedrohlicher könnte es sein, dass Menschen dies nur behaupten, um ihre Verantwortung auf die Apparate abzuwälzen - bei der gezielten Entfesselung halbautonomer Waffensysteme zum Beispiel. Vielleicht ist die eingebildete Kränkung, die der Mensch durch seine Apparate zu erleiden vorgibt, die eigentliche politische Gefahr.
MARK SIEMONS.
Thomas Fuchs: "Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie". Suhrkamp Verlag, 331 Seiten, 22 Euro.
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main
Perlentaucher-Notiz zur TAZ-Rezension
Rezensentin Marlen Hobrack scheint erleichtert: KI gibt es gar nicht, und kein Rechner kann den Menschen und sein Denken ersetzen. Das macht ihr der Psychiater Thomas Fuchs in seinem Buch klar. Fuchs geht es darum, die Leibhaftigkeit des Menschen hochzuhalten und gegen die Trennung von Geist und Körper und ein szientistisches Weltbild in Stellung zu bringen, erklärt Hobrack. Fuchs' ausführliche Unterscheidung von binären Rechenprozessen einerseits und der komplexen "Neuroplastizität" des menschlichen Gehirns andererseits findet die Rezensentin überzeugend.
© Perlentaucher Medien GmbH
© Perlentaucher Medien GmbH
Süddeutsche Zeitung | Besprechung von 27.10.2020Sind wir noch
zu retten?
Der Philosoph Nick Bostrom sorgt sich um die Welt,
sein Kollege Thomas Fuchs verteidigt den Menschen
VON NICOLAS FREUND
Kurze Frage zu Beginn: Lesen Sie diesen Text aus freien Stücken? Also weil Sie es wollen, weil Sie sich, zum Beispiel, für Psychologie und Philosophie interessieren? Oder weil Sie die Überschrift neugierig gemacht hat? In jedem Fall haben Sie sich freiwillig zu der Lektüre entschieden, oder?
Zwei der einflussreichsten Philosophen der Gegenwart – Nick Bostrom, der mit „Superintelligenz“ einen Bestseller geschrieben hat, und Yuval Noah Harari, der mit „Home Sapiens“ einen Superbestseller geschrieben hat – würden Ihnen, wenn Sie einem der oben genannten Gründe zustimmen, wahrscheinlich vehement widersprechen. Beide propagieren in ihren Werken ein Bild des Menschen, das nicht von einem freien Geist oder gar einem beseelten Körper ausgeht, sondern den Menschen in die Nähe einer Maschine, genauer gesagt, eines Computers rückt. So etwas wie freien Willen gebe es nicht, was wir dafür halten, sei eine Illusion. Wir seien gesteuert von genetischen Determinanten und anderen Biologismen, die uns eine freie Entscheidung nur vorgaukelten.
Das haben sich Harari und Bostrom nicht selbst ausgedacht, tatsächlich zeigten viele psychologische Untersuchungen der letzten Jahrzehnte, dass Entscheidungen im Gehirn längst gefallen sind, bevor sie den Entscheidern bewusst werden. Ob sich daraus gleich ein fehlender freier Wille ableiten lässt, ist eine weiterführende Frage. Harari und Bostrom führen in ihren Büchern „Homo Deus“ und „Die Zukunft der Menschheit“ jedenfalls diese und andere Forschungsergebnisse als Beweise für die potenziell vollständige Programmierbarkeit und Maschinenkompatibilität des Menschen an. So zeigten militärische Versuche, dass man mit schwachen elektromagnetischen Feldern das Gehirn von Soldaten beeinflussen und ihnen die Angst vor dem Feind nehmen konnte. Aber lässt sich das verallgemeinern? Und wie?
Sind Entscheidungen, die unbewusst getroffen wurden deswegen notwendig nicht frei getroffene Entscheidungen? Der Titel des Science-Fiction-Klassikers „Träumen Androiden von elektrischen Schafen“ von Philip K. Dick, der die Vorlage für „Blade Runner“ war, könnte die ganze Argumentation ins Wanken bringen. Es gibt gute Argumente gegen dieses Welt- und Menschenbild, das eigentlich schon aus dem 16. Jahrhundert stammt, als Welt und Mensch wie sehr komplizierte Uhren imaginiert wurden. In seinem neuesten, auf deutsch erschienen Buch, „Die verwundbare Welt“, denkt Bostrom diese mechanistischen Vorstellungen nämlich stur weiter und kommt zu dem Schluss, dass es, den Regeln der Stochastik folgend, nur eine Frage der Zeit sei, bis die Forschung aus der Urne aller möglichen Erfindungen eine „schwarze Murmel“ ziehe, also eine Entdeckung mache, die die Existenz der Menschheit fundamental gefährde. Zum Beispiel eine sehr leicht zu erschaffende und einzusetzende Massenvernichtungswaffe.
Bostrom hat schon 2008 einen bisher nicht auf deutsch erhältlichen Sammelband über „Global Catastrophic Risks“ mitherausgegeben, also über alle möglichen Szenarien, die menschliches Leben auf der Erde bedrohen könnten. Die Gefahr einer globalen Grippe-Pandemie zum Beispiel wird darin angesprochen, aber neben anderen Gefahren eher heruntergespielt. Auch Harari nannte ein ganzes Kapitel in seinem Buch „Homo Deus“ „Die Zeitbombe im Labor“. Bei Bostroms Vorschlägen, um das eher vage Szenario einer irgendwie bedrohlichen Entdeckung in den Griff zu bekommen, zeigen sich nun die Auswüchse eines mechanistischen Weltbildes.
Bostrom schlägt vor, einen „äußerst gut ausgebauten Überwachungsapparat“ aufzubauen, der alle Bürger jederzeit überall im Auge behält. Das könne zum Beispiel mit sogenannten „Freiheitskettchen“ geschehen, die mit Kameras und Mikrofonen ausgestattet, sofort die Sicherheitsbehörden alarmieren, wenn sie verdächtige Aktivitäten registrieren. Bostrom, das ist als Kontext zu diesen Vorschlägen wichtig, träumte auch schon in mehreren Aufsätzen, ebenso wie Harari, von einer transhumanen Menschheit, also von Menschen, die irgendwie mit Computern verschmelzen oder anderweitig technisch verbessert werden, um eine neue Stufe des Daseins zu erreichen. Das damit die Abschaffung des Menschen, wie wir ihn kennen, einhergeht, wird billigend in Kauf genommen.
Neben Bostroms „Die verwundbare Welt“ hat der Suhrkamp Verlag unter dem Titel die „Verteidigung des Menschen“ die Aufsätze des Philosophen und Psychologen Thomas Fuchs veröffentlicht. Fuchs stört sich daran, dass es immer mehr zum Makel werden, wie „ein gewöhnlicher Mensch aus Fleisch und Blut zu sein“. Er bringt einen Begriff der „Leiblichkeit“ ins Spiel, wie ihn viele Philosophen in Varianten zur Erklärung der menschlichen Existenz angeführt haben. „Menschen sind weder biologische Maschinen noch reine Geister, sondern in erster Linie lebendige, das heißt verkörperte oder leibliche Wesen. Leib zu sein, ist uns nicht äußerlich, sondern die grundlegende Form unserer Existenz, insofern unser Fühlen, Wahrnehmen, Denken und Handeln immer eine Weise des verkörperten Lebensvollzugs ist.“
Ähnlich wird zum Beispiel auch der Philosoph Ludwig Wittgenstein immer angeführt, um auf die Probleme bei der Entwicklung einer „echten“ künstlichen Intelligenz hinzuweisen: Wittgenstein hatte in seiner Sprachphilosophie dargestellt, wie die menschliche Lebenswelt eben nicht auf den Austausch klar benennbarer Codes zurückzuführen ist, sondern aus potenziell unendlich komplexen „Sprachspielen“ besteht, die maschinell oder auch nur schematisch kaum zu erfassen sind.
Noch ist es nicht möglich gewesen, einen Menschen auf eine virtuelle Darstellung seines Gehirns oder einen Binärcode auf einer Festplatte zu reduzieren. Gedacht wird der Mensch aber längst auf diese Art.
Harari und Bostrom weisen auf mögliche Gefahren technologischer Entwicklungen hin, zur Rettung der Menschheit fordern sie aber nicht weniger, als die Abschaffung der selben. Die Diskussion um die aktuelle Vorstellung des Menschen und das mechanistische Weltbild dieser immens einflussreichen Autoren muss dringend breiter geführt werden, philosophische Aufsätze wie von Thomas Fuchs können dazu nur die Grundlage liefern. Denn den Beweis, welche gefährlichen Auswüchse die Thesen dieser Autoren annehmen können, liefert Bostrom selbst.
Nick Bostrom: Die verwundbare Welt. Eine Hypothese. Suhrkamp Verlag, Berlin 2020. 112 Seiten, 12 Euro.
Thomas Fuchs: Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie. Suhrkamp, Berlin 2020. 331 Seiten, 22 Euro.
Vorgeschlagen wird ein
gut ausgebauter
Überwachungsapparat
Wie gefährlich ist
das mechanistische Bild
vom Menschen?
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de
zu retten?
Der Philosoph Nick Bostrom sorgt sich um die Welt,
sein Kollege Thomas Fuchs verteidigt den Menschen
VON NICOLAS FREUND
Kurze Frage zu Beginn: Lesen Sie diesen Text aus freien Stücken? Also weil Sie es wollen, weil Sie sich, zum Beispiel, für Psychologie und Philosophie interessieren? Oder weil Sie die Überschrift neugierig gemacht hat? In jedem Fall haben Sie sich freiwillig zu der Lektüre entschieden, oder?
Zwei der einflussreichsten Philosophen der Gegenwart – Nick Bostrom, der mit „Superintelligenz“ einen Bestseller geschrieben hat, und Yuval Noah Harari, der mit „Home Sapiens“ einen Superbestseller geschrieben hat – würden Ihnen, wenn Sie einem der oben genannten Gründe zustimmen, wahrscheinlich vehement widersprechen. Beide propagieren in ihren Werken ein Bild des Menschen, das nicht von einem freien Geist oder gar einem beseelten Körper ausgeht, sondern den Menschen in die Nähe einer Maschine, genauer gesagt, eines Computers rückt. So etwas wie freien Willen gebe es nicht, was wir dafür halten, sei eine Illusion. Wir seien gesteuert von genetischen Determinanten und anderen Biologismen, die uns eine freie Entscheidung nur vorgaukelten.
Das haben sich Harari und Bostrom nicht selbst ausgedacht, tatsächlich zeigten viele psychologische Untersuchungen der letzten Jahrzehnte, dass Entscheidungen im Gehirn längst gefallen sind, bevor sie den Entscheidern bewusst werden. Ob sich daraus gleich ein fehlender freier Wille ableiten lässt, ist eine weiterführende Frage. Harari und Bostrom führen in ihren Büchern „Homo Deus“ und „Die Zukunft der Menschheit“ jedenfalls diese und andere Forschungsergebnisse als Beweise für die potenziell vollständige Programmierbarkeit und Maschinenkompatibilität des Menschen an. So zeigten militärische Versuche, dass man mit schwachen elektromagnetischen Feldern das Gehirn von Soldaten beeinflussen und ihnen die Angst vor dem Feind nehmen konnte. Aber lässt sich das verallgemeinern? Und wie?
Sind Entscheidungen, die unbewusst getroffen wurden deswegen notwendig nicht frei getroffene Entscheidungen? Der Titel des Science-Fiction-Klassikers „Träumen Androiden von elektrischen Schafen“ von Philip K. Dick, der die Vorlage für „Blade Runner“ war, könnte die ganze Argumentation ins Wanken bringen. Es gibt gute Argumente gegen dieses Welt- und Menschenbild, das eigentlich schon aus dem 16. Jahrhundert stammt, als Welt und Mensch wie sehr komplizierte Uhren imaginiert wurden. In seinem neuesten, auf deutsch erschienen Buch, „Die verwundbare Welt“, denkt Bostrom diese mechanistischen Vorstellungen nämlich stur weiter und kommt zu dem Schluss, dass es, den Regeln der Stochastik folgend, nur eine Frage der Zeit sei, bis die Forschung aus der Urne aller möglichen Erfindungen eine „schwarze Murmel“ ziehe, also eine Entdeckung mache, die die Existenz der Menschheit fundamental gefährde. Zum Beispiel eine sehr leicht zu erschaffende und einzusetzende Massenvernichtungswaffe.
Bostrom hat schon 2008 einen bisher nicht auf deutsch erhältlichen Sammelband über „Global Catastrophic Risks“ mitherausgegeben, also über alle möglichen Szenarien, die menschliches Leben auf der Erde bedrohen könnten. Die Gefahr einer globalen Grippe-Pandemie zum Beispiel wird darin angesprochen, aber neben anderen Gefahren eher heruntergespielt. Auch Harari nannte ein ganzes Kapitel in seinem Buch „Homo Deus“ „Die Zeitbombe im Labor“. Bei Bostroms Vorschlägen, um das eher vage Szenario einer irgendwie bedrohlichen Entdeckung in den Griff zu bekommen, zeigen sich nun die Auswüchse eines mechanistischen Weltbildes.
Bostrom schlägt vor, einen „äußerst gut ausgebauten Überwachungsapparat“ aufzubauen, der alle Bürger jederzeit überall im Auge behält. Das könne zum Beispiel mit sogenannten „Freiheitskettchen“ geschehen, die mit Kameras und Mikrofonen ausgestattet, sofort die Sicherheitsbehörden alarmieren, wenn sie verdächtige Aktivitäten registrieren. Bostrom, das ist als Kontext zu diesen Vorschlägen wichtig, träumte auch schon in mehreren Aufsätzen, ebenso wie Harari, von einer transhumanen Menschheit, also von Menschen, die irgendwie mit Computern verschmelzen oder anderweitig technisch verbessert werden, um eine neue Stufe des Daseins zu erreichen. Das damit die Abschaffung des Menschen, wie wir ihn kennen, einhergeht, wird billigend in Kauf genommen.
Neben Bostroms „Die verwundbare Welt“ hat der Suhrkamp Verlag unter dem Titel die „Verteidigung des Menschen“ die Aufsätze des Philosophen und Psychologen Thomas Fuchs veröffentlicht. Fuchs stört sich daran, dass es immer mehr zum Makel werden, wie „ein gewöhnlicher Mensch aus Fleisch und Blut zu sein“. Er bringt einen Begriff der „Leiblichkeit“ ins Spiel, wie ihn viele Philosophen in Varianten zur Erklärung der menschlichen Existenz angeführt haben. „Menschen sind weder biologische Maschinen noch reine Geister, sondern in erster Linie lebendige, das heißt verkörperte oder leibliche Wesen. Leib zu sein, ist uns nicht äußerlich, sondern die grundlegende Form unserer Existenz, insofern unser Fühlen, Wahrnehmen, Denken und Handeln immer eine Weise des verkörperten Lebensvollzugs ist.“
Ähnlich wird zum Beispiel auch der Philosoph Ludwig Wittgenstein immer angeführt, um auf die Probleme bei der Entwicklung einer „echten“ künstlichen Intelligenz hinzuweisen: Wittgenstein hatte in seiner Sprachphilosophie dargestellt, wie die menschliche Lebenswelt eben nicht auf den Austausch klar benennbarer Codes zurückzuführen ist, sondern aus potenziell unendlich komplexen „Sprachspielen“ besteht, die maschinell oder auch nur schematisch kaum zu erfassen sind.
Noch ist es nicht möglich gewesen, einen Menschen auf eine virtuelle Darstellung seines Gehirns oder einen Binärcode auf einer Festplatte zu reduzieren. Gedacht wird der Mensch aber längst auf diese Art.
Harari und Bostrom weisen auf mögliche Gefahren technologischer Entwicklungen hin, zur Rettung der Menschheit fordern sie aber nicht weniger, als die Abschaffung der selben. Die Diskussion um die aktuelle Vorstellung des Menschen und das mechanistische Weltbild dieser immens einflussreichen Autoren muss dringend breiter geführt werden, philosophische Aufsätze wie von Thomas Fuchs können dazu nur die Grundlage liefern. Denn den Beweis, welche gefährlichen Auswüchse die Thesen dieser Autoren annehmen können, liefert Bostrom selbst.
Nick Bostrom: Die verwundbare Welt. Eine Hypothese. Suhrkamp Verlag, Berlin 2020. 112 Seiten, 12 Euro.
Thomas Fuchs: Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie. Suhrkamp, Berlin 2020. 331 Seiten, 22 Euro.
Vorgeschlagen wird ein
gut ausgebauter
Überwachungsapparat
Wie gefährlich ist
das mechanistische Bild
vom Menschen?
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de
»Fuchs argumentiert kenntnisreich und sehr klar gegen Irrungen eines szientistischen Weltbildes, das eine einfache Input-Output-Logik für unser Hirn postuliert.« Marlen Hobrack taz. die tageszeitung 20201109