Mit den Fortschritten der künstlichen Intelligenz, der Digitalisierung der Lebenswelt und der Reduzierung des Geistes auf neuronale Prozesse erscheint der Mensch immer mehr als ein Produkt aus Daten und Algorithmen. Wir begreifen uns selbst nach dem Bild unserer Maschinen, während wir umgekehrt unsere Maschinen und unsere Gehirne zu neuen Subjekten erheben. Gegen diese Selbstverdinglichung des Menschen setzt der Philosoph und Psychiater Thomas Fuchs einen Humanismus der Verkörperung: Unsere Leiblichkeit, Lebendigkeit und verkörperte Freiheit sind die Grundlagen einer selbstbestimmten Existenz, die die neuen Technologien nur als Mittel gebraucht, statt sich ihnen zu unterwerfen.
Frankfurter Allgemeine Zeitung | Besprechung von 09.08.2020Sind wir etwa doch keine Algorithmen?
Verteidigung der natürlichen Intelligenz: Der Psychiater und Philosoph Thomas Fuchs weist den körperlosen Visionen der Transhumanisten eklatante Denkfehler nach.
Der Glaube daran, dass Computer demnächst ein Bewusstsein entwickeln werden und uns Menschen dann sagen, wo's langgeht, hat sich außerhalb des Silicon Valley noch nicht allgemein durchgesetzt. Intuitiv scheint sich irgendetwas gegen die Vorstellung zu sträuben. Aber wenn man den Glauben in dessen einzelne Bestandteile zerlegt, stößt man auf lauter Annahmen, die durchaus auf breites Einverständnis zählen dürften: Den Menschen mache im Wesentlichen aus, was in seinem Gehirn vorgeht; Gehirntätigkeit sei Informationsverarbeitung; Informationen seien Daten. Aus diesen Elementen lässt sich dann im Umkehrschluss ohne weiteres folgern: Wenn es nur gelingt, genauso viel Daten zusammenzubringen wie das menschliche Gehirn (manche Verfechter der Künstlichen Intelligenz rechnen mit 10 hoch 16 Operationen pro Sekunde), kann Bewusstsein künstlich erzeugt werden, das dann in der Lage ist, sich selbständig zu machen. Es ist eine eigentümlich abstrakte, entmaterialisierte Welt, in der solche Planspiele ihren Schauplatz haben - eine Welt jedoch, die um so mehr an Plausibilität gewinnen dürfte, je vollständiger auch die Alltagswelt über das Smartphone in Daten eingetaucht ist.
Für gewöhnlich bekommen auf dem Markt vor allem solche Bücher Aufmerksamkeit, die derartige Spekulationen beim Nennwert nehmen und zu Epochenbrüchen hochrechnen. Der Historiker Yuval Noah Harari zum Beispiel hatte viel Erfolg mit seinem Titel "Homo Deus", in dem er angesichts der neuen technischen Verheißungen nicht nur den Humanismus und den Individualismus, sondern auch gleich den Menschen selbst zu einer Sache der Vergangenheit erklärte: "Homo sapiens ist ein obsoleter Algorithmus". Deshalb fällt das neue Buch von Thomas Fuchs, das bei Suhrkamp unter dem etwas großräumigen Titel "Verteidigung des Menschen" erschienen ist, etwas aus dem Rahmen. Fuchs, der an der Universität Heidelberg die Karl-Jaspers-Professur für philosophische Grundlagen der Psychiatrie und Psychotherapie innehat, lässt sich auf kulturkritische oder kulturaffirmative Räsonnements kaum ein. Er untersucht vielmehr mit nicht nachlassender Beharrlichkeit die einzelnen Elemente, aus denen der Glaube an die technologische Evolution gewoben ist. Verblüffend und erhellend zugleich ist dabei, wie einfach inmitten der einschüchternden Komplexität der Materie letztlich die Kategorienfehler sind, denen er auf die Spur kommt - einfach, indem er einen Schritt zurücktritt.
Das fängt schon mit der Abwehr der unscheinbaren Behauptung an, dass Computer es mit "Informationen" zu tun hätten. Doch damit Daten zu Informationen werden, bedürfen sie eines Empfängers, der sie versteht. Eine von einem möglichen Adressaten losgelöste Information ist ein Widerspruch in sich. "Ein Universum aus Informationen, die von niemandem verstanden würden", schreibt Fuchs, "wäre - riefe man nicht Gott zu Hilfe - ein sinnloser Begriff." Der Computer allein verarbeitet weder Informationen noch rechnet oder denkt er: "Für sich betrachtet, wandelt der Apparat nur elektronische Muster nach programmierten Algorithmen in andere Muster um."
Diese Klärung hat weitreichende Folgen. Denn die Daten, mit denen das Gehirn umgeht, sind im Unterschied zu denen des Computers, durchaus Informationen - aber nur insofern, als das Gehirn eben nicht für sich allein steht. Damit ist Fuchs bei der zweiten Behauptung, der er einen Denkfehler nachweist: dass das menschliche Bewusstsein mit den Operationen des Gehirns identisch sei. Eine plastische Illustration dieser Auffassung ist das Gedankenexperiment des "Gehirns im Tank", bei dem sich der Philosoph Hilary Putnam ein dem Körper entnommenes und in einer Nährlösung eingelegtes Gehirn vorstellte: Die Daten, die ihm fortlaufend ein Supercomputer einspeist, sorgen dafür, dass es das Bewusstsein eines ganz normalen Lebens in der Welt hat. "Woher nehmen Sie eigentlich die Gewissheit", ergänzte der Philosoph Thomas Metzinger, "dass Sie sich nicht jetzt gerade, während Sie dieses Buch lesen, in einem Gefäß mit einer Nährlösung befinden?"
Fuchs erwidert, dieses Experiment beweise nur, was es voraussetzt, dass nämlich alles Erleben bloß eine Datenansammlung im Gehirn sei. Doch diese Annahme ignoriere die enge Verbindung, die das Organ des Gehirns mit einem lebendigen Körper eingeht: "Bewusstsein entsteht nicht erst im Kortex, sondern es resultiert aus den fortlaufenden vitalen Regulationsprozessen, die den ganzen Organismus mit einbeziehen und die im Hirnstamm und höheren Zentrum integriert werden." Ohne den Körper sei die Einbeziehung der äußeren Welt, die das Bewusstsein charakterisiert, nicht zu erklären: "Bewusstsein ist überhaupt kein lokalisierbarer Gegenstand, auf den man zeigen könnte wie auf einen Stein oder Apfel. Es ist ein Wahrnehmen-von. . ., Sprechen-mit . . ., Sich-Erinnern-an . . ., Wünschen-von . . ., das heißt, ein gerichteter Prozess, der eine Welt eröffnet." Nicht Gehirnen könne man daher Bewusstsein zusprechen, sondern nur Menschen.
Damit ist Fuchs beim Kern seines Buchs angekommen. Es ist von der anhaltenden Verwunderung darüber durchzogen, dass eine so gegen alle Intuition gehende Vorstellung Raum greifen konnte wie die eines Menschen ohne Körper. Seinen eigenen Ansatz nennt Fuchs "verkörperte Anthropologie"; er beruft sich dabei auf die "embodied cognitive neuroscience", die in den letzten beiden Jahrzehnten die Zusammenhänge zwischen Subjekt, Organismus und Umwelt in den Vordergrund rückt. Als "Zerebrozentrismus" bezeichnet er die Idee, den Menschen als Kopfgeburt, als reines Gehirnwesen, zu betrachten, so wie es bei manchem Reden über Künstliche Intelligenz geschieht und erst recht bei denen, die den menschlichen Geist auf eine Festplatte laden wollen (das sogenannte "mind uploading"). Solchen transhumanistischen Phantasien, die die konkrete körperliche Existenz weniger als Ermöglichung denn als Hindernis, als Einschränkung der persönlichen Freiheit verstehen, hält er ein erstaunlich poetisches Zitat von Immanuel Kant aus der Kritik der reinen Vernunft entgegen: "Die leichte Taube, indem sie im freien Fluge die Luft teilt, deren Widerstand sie fühlt, könnte die Vorstellung fassen, daß es ihr im luftleeren Raum noch viel besser gelingen werde." Doch der luftleere Raum ist ein Trugbild. Das Bewusstsein, ergänzt Fuchs, bedarf der Materialität des Körpers, um zu existieren.
Den radikalsten Kategorienfehler macht Fuchs dann in der Verwechslung des Grundlegendsten, des Lebens, mit dessen Funktionen aus. Man spricht von "artificial life", wenn sich zum Beispiel datenakkumulierende Roboter die besten Strategien fürs Go-Spiel selbst beibringen (AlphaGo Zero) und damit mühelos die besten menschlichen Spieler schlagen können - so als wäre die Simulation von Funktionen des Lebens dasselbe wie das Leben selbst. Sogar ein so kluger und origineller Kopf wie James Lovelock (der Schöpfer des Begriffs "Gaia"), auf den Fuchs nicht verweist, schreibt: "Das Ziel des Kosmos ist es, intelligentes Leben hervorzubringen und zu erhalten" und rückt die Intelligenz der Apparate damit in eine evolutionäre Linie mit der der Menschen. Dass das Leben eine Selbsttätigkeit ist, die von keiner Simulation eingeholt werden kann, dieser schlichte Umstand wird bei einem solch leichtfertigen Sprachgebrauch einfach ausgeklammert. Fuchs schreibt: "Die Annahme, Organismen seien nichts anderes als Algorithmen, verkennt die Tatsache, dass Leben auf der Selbstorganisation eines biologischen Systems beruht, die sich nur in Begriffen von Selbsterhaltung, Homöostase, Stoffwechsel, Differenzierung und Wachstum beschreiben lässt."
In der Aufsatzsammlung kommen noch andere Themen aus dem Tätigkeitsfeld des Autors zur Sprache, die personale Identität in der Demenz zum Beispiel oder die Dissonanzen von zyklischem und linearem Zeiterleben. Aber der Hauptakzent der meisten Essays liegt doch in der Warnung davor, sich beim Verständnis des Menschen dem Verstehenshorizont von Computern anzupassen. Das ist sehr einleuchtend, und gerade die sich kulturtheoretischer Spekulationen weitgehend enthaltende Nüchternheit regt auch zum Weiterdenken an. Es ist vielleicht nicht nur voreilig, sich mit lässiger Gebärde vom Lebewesen Mensch zu verabschieden. Es ist auch ignorant und fahrlässig. Eine generelle Abwertung von Erfahrung steckt darin, sowohl persönlicher als auch jener, die in den Kulturen enthalten ist. "Genügt uns am Ende die perfekte Simulation - der Schein des Anderen?", fragt Fuchs.
Die Gefahr besteht in Wirklichkeit womöglich gar nicht darin, dass sich unsere Apparate selbständig machen. Bedrohlicher könnte es sein, dass Menschen dies nur behaupten, um ihre Verantwortung auf die Apparate abzuwälzen - bei der gezielten Entfesselung halbautonomer Waffensysteme zum Beispiel. Vielleicht ist die eingebildete Kränkung, die der Mensch durch seine Apparate zu erleiden vorgibt, die eigentliche politische Gefahr.
MARK SIEMONS.
Thomas Fuchs: "Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie". Suhrkamp Verlag, 331 Seiten, 22 Euro.
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main
Verteidigung der natürlichen Intelligenz: Der Psychiater und Philosoph Thomas Fuchs weist den körperlosen Visionen der Transhumanisten eklatante Denkfehler nach.
Der Glaube daran, dass Computer demnächst ein Bewusstsein entwickeln werden und uns Menschen dann sagen, wo's langgeht, hat sich außerhalb des Silicon Valley noch nicht allgemein durchgesetzt. Intuitiv scheint sich irgendetwas gegen die Vorstellung zu sträuben. Aber wenn man den Glauben in dessen einzelne Bestandteile zerlegt, stößt man auf lauter Annahmen, die durchaus auf breites Einverständnis zählen dürften: Den Menschen mache im Wesentlichen aus, was in seinem Gehirn vorgeht; Gehirntätigkeit sei Informationsverarbeitung; Informationen seien Daten. Aus diesen Elementen lässt sich dann im Umkehrschluss ohne weiteres folgern: Wenn es nur gelingt, genauso viel Daten zusammenzubringen wie das menschliche Gehirn (manche Verfechter der Künstlichen Intelligenz rechnen mit 10 hoch 16 Operationen pro Sekunde), kann Bewusstsein künstlich erzeugt werden, das dann in der Lage ist, sich selbständig zu machen. Es ist eine eigentümlich abstrakte, entmaterialisierte Welt, in der solche Planspiele ihren Schauplatz haben - eine Welt jedoch, die um so mehr an Plausibilität gewinnen dürfte, je vollständiger auch die Alltagswelt über das Smartphone in Daten eingetaucht ist.
Für gewöhnlich bekommen auf dem Markt vor allem solche Bücher Aufmerksamkeit, die derartige Spekulationen beim Nennwert nehmen und zu Epochenbrüchen hochrechnen. Der Historiker Yuval Noah Harari zum Beispiel hatte viel Erfolg mit seinem Titel "Homo Deus", in dem er angesichts der neuen technischen Verheißungen nicht nur den Humanismus und den Individualismus, sondern auch gleich den Menschen selbst zu einer Sache der Vergangenheit erklärte: "Homo sapiens ist ein obsoleter Algorithmus". Deshalb fällt das neue Buch von Thomas Fuchs, das bei Suhrkamp unter dem etwas großräumigen Titel "Verteidigung des Menschen" erschienen ist, etwas aus dem Rahmen. Fuchs, der an der Universität Heidelberg die Karl-Jaspers-Professur für philosophische Grundlagen der Psychiatrie und Psychotherapie innehat, lässt sich auf kulturkritische oder kulturaffirmative Räsonnements kaum ein. Er untersucht vielmehr mit nicht nachlassender Beharrlichkeit die einzelnen Elemente, aus denen der Glaube an die technologische Evolution gewoben ist. Verblüffend und erhellend zugleich ist dabei, wie einfach inmitten der einschüchternden Komplexität der Materie letztlich die Kategorienfehler sind, denen er auf die Spur kommt - einfach, indem er einen Schritt zurücktritt.
Das fängt schon mit der Abwehr der unscheinbaren Behauptung an, dass Computer es mit "Informationen" zu tun hätten. Doch damit Daten zu Informationen werden, bedürfen sie eines Empfängers, der sie versteht. Eine von einem möglichen Adressaten losgelöste Information ist ein Widerspruch in sich. "Ein Universum aus Informationen, die von niemandem verstanden würden", schreibt Fuchs, "wäre - riefe man nicht Gott zu Hilfe - ein sinnloser Begriff." Der Computer allein verarbeitet weder Informationen noch rechnet oder denkt er: "Für sich betrachtet, wandelt der Apparat nur elektronische Muster nach programmierten Algorithmen in andere Muster um."
Diese Klärung hat weitreichende Folgen. Denn die Daten, mit denen das Gehirn umgeht, sind im Unterschied zu denen des Computers, durchaus Informationen - aber nur insofern, als das Gehirn eben nicht für sich allein steht. Damit ist Fuchs bei der zweiten Behauptung, der er einen Denkfehler nachweist: dass das menschliche Bewusstsein mit den Operationen des Gehirns identisch sei. Eine plastische Illustration dieser Auffassung ist das Gedankenexperiment des "Gehirns im Tank", bei dem sich der Philosoph Hilary Putnam ein dem Körper entnommenes und in einer Nährlösung eingelegtes Gehirn vorstellte: Die Daten, die ihm fortlaufend ein Supercomputer einspeist, sorgen dafür, dass es das Bewusstsein eines ganz normalen Lebens in der Welt hat. "Woher nehmen Sie eigentlich die Gewissheit", ergänzte der Philosoph Thomas Metzinger, "dass Sie sich nicht jetzt gerade, während Sie dieses Buch lesen, in einem Gefäß mit einer Nährlösung befinden?"
Fuchs erwidert, dieses Experiment beweise nur, was es voraussetzt, dass nämlich alles Erleben bloß eine Datenansammlung im Gehirn sei. Doch diese Annahme ignoriere die enge Verbindung, die das Organ des Gehirns mit einem lebendigen Körper eingeht: "Bewusstsein entsteht nicht erst im Kortex, sondern es resultiert aus den fortlaufenden vitalen Regulationsprozessen, die den ganzen Organismus mit einbeziehen und die im Hirnstamm und höheren Zentrum integriert werden." Ohne den Körper sei die Einbeziehung der äußeren Welt, die das Bewusstsein charakterisiert, nicht zu erklären: "Bewusstsein ist überhaupt kein lokalisierbarer Gegenstand, auf den man zeigen könnte wie auf einen Stein oder Apfel. Es ist ein Wahrnehmen-von. . ., Sprechen-mit . . ., Sich-Erinnern-an . . ., Wünschen-von . . ., das heißt, ein gerichteter Prozess, der eine Welt eröffnet." Nicht Gehirnen könne man daher Bewusstsein zusprechen, sondern nur Menschen.
Damit ist Fuchs beim Kern seines Buchs angekommen. Es ist von der anhaltenden Verwunderung darüber durchzogen, dass eine so gegen alle Intuition gehende Vorstellung Raum greifen konnte wie die eines Menschen ohne Körper. Seinen eigenen Ansatz nennt Fuchs "verkörperte Anthropologie"; er beruft sich dabei auf die "embodied cognitive neuroscience", die in den letzten beiden Jahrzehnten die Zusammenhänge zwischen Subjekt, Organismus und Umwelt in den Vordergrund rückt. Als "Zerebrozentrismus" bezeichnet er die Idee, den Menschen als Kopfgeburt, als reines Gehirnwesen, zu betrachten, so wie es bei manchem Reden über Künstliche Intelligenz geschieht und erst recht bei denen, die den menschlichen Geist auf eine Festplatte laden wollen (das sogenannte "mind uploading"). Solchen transhumanistischen Phantasien, die die konkrete körperliche Existenz weniger als Ermöglichung denn als Hindernis, als Einschränkung der persönlichen Freiheit verstehen, hält er ein erstaunlich poetisches Zitat von Immanuel Kant aus der Kritik der reinen Vernunft entgegen: "Die leichte Taube, indem sie im freien Fluge die Luft teilt, deren Widerstand sie fühlt, könnte die Vorstellung fassen, daß es ihr im luftleeren Raum noch viel besser gelingen werde." Doch der luftleere Raum ist ein Trugbild. Das Bewusstsein, ergänzt Fuchs, bedarf der Materialität des Körpers, um zu existieren.
Den radikalsten Kategorienfehler macht Fuchs dann in der Verwechslung des Grundlegendsten, des Lebens, mit dessen Funktionen aus. Man spricht von "artificial life", wenn sich zum Beispiel datenakkumulierende Roboter die besten Strategien fürs Go-Spiel selbst beibringen (AlphaGo Zero) und damit mühelos die besten menschlichen Spieler schlagen können - so als wäre die Simulation von Funktionen des Lebens dasselbe wie das Leben selbst. Sogar ein so kluger und origineller Kopf wie James Lovelock (der Schöpfer des Begriffs "Gaia"), auf den Fuchs nicht verweist, schreibt: "Das Ziel des Kosmos ist es, intelligentes Leben hervorzubringen und zu erhalten" und rückt die Intelligenz der Apparate damit in eine evolutionäre Linie mit der der Menschen. Dass das Leben eine Selbsttätigkeit ist, die von keiner Simulation eingeholt werden kann, dieser schlichte Umstand wird bei einem solch leichtfertigen Sprachgebrauch einfach ausgeklammert. Fuchs schreibt: "Die Annahme, Organismen seien nichts anderes als Algorithmen, verkennt die Tatsache, dass Leben auf der Selbstorganisation eines biologischen Systems beruht, die sich nur in Begriffen von Selbsterhaltung, Homöostase, Stoffwechsel, Differenzierung und Wachstum beschreiben lässt."
In der Aufsatzsammlung kommen noch andere Themen aus dem Tätigkeitsfeld des Autors zur Sprache, die personale Identität in der Demenz zum Beispiel oder die Dissonanzen von zyklischem und linearem Zeiterleben. Aber der Hauptakzent der meisten Essays liegt doch in der Warnung davor, sich beim Verständnis des Menschen dem Verstehenshorizont von Computern anzupassen. Das ist sehr einleuchtend, und gerade die sich kulturtheoretischer Spekulationen weitgehend enthaltende Nüchternheit regt auch zum Weiterdenken an. Es ist vielleicht nicht nur voreilig, sich mit lässiger Gebärde vom Lebewesen Mensch zu verabschieden. Es ist auch ignorant und fahrlässig. Eine generelle Abwertung von Erfahrung steckt darin, sowohl persönlicher als auch jener, die in den Kulturen enthalten ist. "Genügt uns am Ende die perfekte Simulation - der Schein des Anderen?", fragt Fuchs.
Die Gefahr besteht in Wirklichkeit womöglich gar nicht darin, dass sich unsere Apparate selbständig machen. Bedrohlicher könnte es sein, dass Menschen dies nur behaupten, um ihre Verantwortung auf die Apparate abzuwälzen - bei der gezielten Entfesselung halbautonomer Waffensysteme zum Beispiel. Vielleicht ist die eingebildete Kränkung, die der Mensch durch seine Apparate zu erleiden vorgibt, die eigentliche politische Gefahr.
MARK SIEMONS.
Thomas Fuchs: "Verteidigung des Menschen. Grundfragen einer verkörperten Anthropologie". Suhrkamp Verlag, 331 Seiten, 22 Euro.
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main
Perlentaucher-Notiz zur TAZ-Rezension
Rezensentin Marlen Hobrack scheint erleichtert: KI gibt es gar nicht, und kein Rechner kann den Menschen und sein Denken ersetzen. Das macht ihr der Psychiater Thomas Fuchs in seinem Buch klar. Fuchs geht es darum, die Leibhaftigkeit des Menschen hochzuhalten und gegen die Trennung von Geist und Körper und ein szientistisches Weltbild in Stellung zu bringen, erklärt Hobrack. Fuchs' ausführliche Unterscheidung von binären Rechenprozessen einerseits und der komplexen "Neuroplastizität" des menschlichen Gehirns andererseits findet die Rezensentin überzeugend.
© Perlentaucher Medien GmbH
© Perlentaucher Medien GmbH
»Fuchs argumentiert kenntnisreich und sehr klar gegen Irrungen eines szientistischen Weltbildes, das eine einfache Input-Output-Logik für unser Hirn postuliert.« Marlen Hobrack taz. die tageszeitung 20201109