"Drawing on over a decade of research, ... [the author] explores the cutting-edge science behind the risks we face. It puts them in the context of the greater story of humanity: showing how ending these risks is among the most pressing moral issues of our time. And it points the way forward, to the actions and strategies that can safeguard humanity"--
Hinweis: Dieser Artikel kann nur an eine deutsche Lieferadresse ausgeliefert werden.
Hinweis: Dieser Artikel kann nur an eine deutsche Lieferadresse ausgeliefert werden.
Frankfurter Allgemeine Zeitung | Besprechung von 11.09.2020Die nahe Zukunft als russisches Roulette
Interstellare Außenposten sind da auch nicht die Lösung: Toby Ord denkt über existentielle Gefahren für die Menschheit nach
Die Menschheit, so schreibt der Oxforder Philosoph Toby Ord, ähnele einem Halbwüchsigen: Während die physischen Kräfte rasant zunehmen, mangelt es noch an Weisheit, Selbstbeherrschung und einer Reflexion des eigenen Handelns. "The Precipice" ("Der Abgrund") hat das Ziel, der Menschheit den Weg ins Erwachsenenalter zu weisen. Das ist nicht eben ein bescheidener Anspruch, doch Ord denkt - und darin liegt die Wucht dieses Buchs - nicht in Jahren, sondern in Zeitaltern, nicht aus der Perspektive des Einzelnen, sondern der Spezies.
Aus diesem Blickwinkel sieht er uns am Anfang einer noch kaum absehbaren Reise. Nur 200 000 Jahre hat Homo sapiens gebraucht, um eine den Planeten umspannende Zivilisation aufzubauen, mit Konzerthäusern, einer Raumstation und einer universalen Menschenrechtserklärung. Das Universum dürfte noch 150 Milliarden Jahre existieren; 20 Milliarden Galaxien, so schätzt Ord, könnten wir theoretisch erreichen. Seine Sorge ist, dass wir diese vielleicht einmalige Zukunft intelligenten Lebens verspielen.
"The Precipice" ist das Destillat aus Ords langjähriger Arbeit am Future of Humanity Institute der Universität Oxford, wo er die Forschung zu existentiellen Risiken mit angestoßen hat. Zuvor hatte Ord sich als Begründer des effektiven Altruismus einen Namen gemacht - einer Bewegung, die danach strebt, möglichst wirkungsvoll Gutes zu tun. Unterstützer verpflichten sich, zehn Prozent ihres Einkommens an die effektivsten Wohlfahrtsorganisationen zu spenden, wobei Effektivität in gewonnenen Lebensjahren pro Dollar gemessen wird. Der effektive Altruismus und die Sorge um existentielle Risiken stehen in einem direkten Bezug, denn für Ord ist ein Risiko dann existentiell, wenn es das "menschliche Potential" auf lange Sicht bedroht. Eine existentielle Katastrophe müsste zwar nicht das Ende der Menschheit, aber eine so tiefe Zäsur bedeuten, dass es praktisch keine Hoffnung gäbe, auf das Niveau unserer heutigen Zivilisation zurückzukehren - und folglich auch keine Chance, darüber hinauszugelangen. Der existentielle Risikofall bedroht damit zugleich jene Menschenleben, die in einer glücklicheren Zukunft noch möglich wären.
Ord unterteilt die existentiellen Risiken in drei Kategorien. Die "natürlichen Risiken" begleiten uns schon lange. Der Einschlag eines Asteroiden, der Ausbruch eines Supervulkans oder eine extrem tödliche Pandemie hatten seit jeher das Potential, die Menschheit auszulöschen. Dazu kommen exotischere Gefahren wie die einer Sternenexplosion, des Vakuumzerfalls oder eines Angriffs von Aliens. Diese Szenarien dominieren Hollywood, Ord machen sie weniger Sorgen: Fossile Funde und physikalische Erkenntnisse erlauben vergleichsweise belastbare Prognosen, und Ord schätzt ihr kombiniertes Risiko für die nächsten hundert Jahre auf 1 zu 10 000.
Für weitaus gewichtiger hält er die "anthropogenen Risiken", die wir Menschen selbst erzeugen. In diese Kategorie fällt die Gefahr eines nuklearen Winters, der zu einer jähen Eiszeit und dem Kollaps aller staatlichen Strukturen führen würde, aber auch ein sich beschleunigender Klimawandel und eine massive Umweltzerstörung. Noch größere Sorgen bereiten Ord "zukünftige Risiken", die sich aus dem technologischen Fortschritt erst ergeben werden. Gefahren sieht er dabei vor allem in der Entwicklung unkontrollierbarer Künstlicher Intelligenz und den Möglichkeiten der synthetischen Biologie, etwa zur gezielten Auslösung von Pandemien. Zudem dürfte es Risiken geben, die wir noch gar nicht absehen können: Leo Szilard dachte an eine nukleare Kettenreaktion erst 1933, also zwölf Jahre vor Abwurf der ersten Atombombe.
Das kumulative existentielle Risiko für die nächsten hundert Jahre schätzt Ord auf 1 zu 6, die Menschheit spiele mit ihrer eigenen Zukunft russisches Roulette. Die Abschätzung wirkt insgesamt gut begründet. Ords langfristige Prognose dagegen ist überraschend optimistisch. Die Wahrscheinlichkeit, dass die Menschheit auf lange Sicht überleben und ihr "kosmisches Potential" entfalten werde, beziffert er auf immerhin fünfzig Prozent. Dass sich folglich ein Drittel des existentiellen Risikos auf die kommenden hundert Jahre konzentriere, begründet Ord mit seiner Zuversicht, dass die Menschheit in dieser Zeit schlagkräftige globale Institutionen errichten wird, die unser Handeln fortan koordinieren. Und sollte das nicht gelingen, werde unsere Zivilisation ohnehin eher früher als später ein Ende finden - denn ein so risikoreicher Zustand wie der heutige lasse sich nicht lange aufrechterhalten.
In Science-Fiction-Filmen gelingt es oft kleinen Außenposten, Katastrophen zu überstehen, und auch Ord hält eine Besiedelung anderer Planeten schon allein deswegen für sinnvoll, weil wir uns so vor lokalen Gefahren schützen können. Doch wie er selbst bemerkt, böte selbst eine interstellare Ausbreitung nur begrenzten Schutz. Denn sollten wir einst auf eine Technologie stoßen, die unsere Zivilisation destabilisiert, so würde die Entdeckung gleichermaßen alle Niederlassungen bedrohen. Langfristig aber dürfte die größte Gefahr von unentdeckten Technologien ausgehen. Ließe sich eine Atombombe etwa mit Materialien aus dem Baumarkt fertigen, könnte die Menschheit auch mit den robustesten Institutionen nicht lange überdauern.
In Anbetracht der Weite und Unwägbarkeit einer Zukunft, die sich über Milliarden Jahre erstrecken könnte, drängt sich daher die Frage auf, ob Ord seine Leser durch die optimistische Prognose für die Zukunft vielleicht auch motivieren möchte. Denn: Je besser die langfristige Aussicht, desto höher die Klippe, von der wir heute in den Abgrund schauen, und desto tragischer wäre es, wenn wir jetzt alles verspielten.
"The Precipice" ist ein Buch, das verblüfft, weil es eine eigentlich naheliegende Frage wissenschaftlich fundiert angeht: Welche Gefahren bedrohen unsere Spezies, und wie können wir ihnen wirksam begegnen? Ord greift auf fundierte Kenntnisse vieler Fächer zurück, von den Geowissenschaften über die Informatik und Epidemiologie bis zur Astrophysik, die es ihm erst erlauben, existentielle Risiken kompetent zu diskutieren. Doch er tut dies aus einer dezidiert philosophischen Perspektive: Er strukturiert Fragen und Probleme, entwickelt Begriffe und Unterscheidungen, kennzeichnet normative und epistemische Unsicherheiten. Dabei richtet er sich an die breitere Öffentlichkeit, technische Details verbannt er in den Appendix und auf hundertdreißig Seiten Endnoten.
Dass Ord sein Buch nicht nur uns und unseren Ahnen widmet, sondern auch jenen Billionen Menschen "um deren Existenz es geht", ist unnötiges Pathos. Allgemein aber schreibt er nüchtern, mit beeindruckender analytischer Schärfe und einem Blick fürs große Ganze. Auch wer Ords Einschätzungen anzweifelt oder seine konsequentialistische Grundhaltung ablehnt, wird anerkennen müssen: Für eine Spezies, die hundertmal mehr Geld für Eiscreme ausgibt als für die Erforschung und Prävention existentieller Risiken, ist sein Vergleich mit einem pubertierenden Jugendlichen nachgerade großmütig.
FRIEDEMANN BIEBER
Toby Ord: "The Precipice". Existential Risk and the
Future of Humanity.
Bloomsbury Publishing, London, 2020. 480 S., geb., 27,- [Euro].
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main
Interstellare Außenposten sind da auch nicht die Lösung: Toby Ord denkt über existentielle Gefahren für die Menschheit nach
Die Menschheit, so schreibt der Oxforder Philosoph Toby Ord, ähnele einem Halbwüchsigen: Während die physischen Kräfte rasant zunehmen, mangelt es noch an Weisheit, Selbstbeherrschung und einer Reflexion des eigenen Handelns. "The Precipice" ("Der Abgrund") hat das Ziel, der Menschheit den Weg ins Erwachsenenalter zu weisen. Das ist nicht eben ein bescheidener Anspruch, doch Ord denkt - und darin liegt die Wucht dieses Buchs - nicht in Jahren, sondern in Zeitaltern, nicht aus der Perspektive des Einzelnen, sondern der Spezies.
Aus diesem Blickwinkel sieht er uns am Anfang einer noch kaum absehbaren Reise. Nur 200 000 Jahre hat Homo sapiens gebraucht, um eine den Planeten umspannende Zivilisation aufzubauen, mit Konzerthäusern, einer Raumstation und einer universalen Menschenrechtserklärung. Das Universum dürfte noch 150 Milliarden Jahre existieren; 20 Milliarden Galaxien, so schätzt Ord, könnten wir theoretisch erreichen. Seine Sorge ist, dass wir diese vielleicht einmalige Zukunft intelligenten Lebens verspielen.
"The Precipice" ist das Destillat aus Ords langjähriger Arbeit am Future of Humanity Institute der Universität Oxford, wo er die Forschung zu existentiellen Risiken mit angestoßen hat. Zuvor hatte Ord sich als Begründer des effektiven Altruismus einen Namen gemacht - einer Bewegung, die danach strebt, möglichst wirkungsvoll Gutes zu tun. Unterstützer verpflichten sich, zehn Prozent ihres Einkommens an die effektivsten Wohlfahrtsorganisationen zu spenden, wobei Effektivität in gewonnenen Lebensjahren pro Dollar gemessen wird. Der effektive Altruismus und die Sorge um existentielle Risiken stehen in einem direkten Bezug, denn für Ord ist ein Risiko dann existentiell, wenn es das "menschliche Potential" auf lange Sicht bedroht. Eine existentielle Katastrophe müsste zwar nicht das Ende der Menschheit, aber eine so tiefe Zäsur bedeuten, dass es praktisch keine Hoffnung gäbe, auf das Niveau unserer heutigen Zivilisation zurückzukehren - und folglich auch keine Chance, darüber hinauszugelangen. Der existentielle Risikofall bedroht damit zugleich jene Menschenleben, die in einer glücklicheren Zukunft noch möglich wären.
Ord unterteilt die existentiellen Risiken in drei Kategorien. Die "natürlichen Risiken" begleiten uns schon lange. Der Einschlag eines Asteroiden, der Ausbruch eines Supervulkans oder eine extrem tödliche Pandemie hatten seit jeher das Potential, die Menschheit auszulöschen. Dazu kommen exotischere Gefahren wie die einer Sternenexplosion, des Vakuumzerfalls oder eines Angriffs von Aliens. Diese Szenarien dominieren Hollywood, Ord machen sie weniger Sorgen: Fossile Funde und physikalische Erkenntnisse erlauben vergleichsweise belastbare Prognosen, und Ord schätzt ihr kombiniertes Risiko für die nächsten hundert Jahre auf 1 zu 10 000.
Für weitaus gewichtiger hält er die "anthropogenen Risiken", die wir Menschen selbst erzeugen. In diese Kategorie fällt die Gefahr eines nuklearen Winters, der zu einer jähen Eiszeit und dem Kollaps aller staatlichen Strukturen führen würde, aber auch ein sich beschleunigender Klimawandel und eine massive Umweltzerstörung. Noch größere Sorgen bereiten Ord "zukünftige Risiken", die sich aus dem technologischen Fortschritt erst ergeben werden. Gefahren sieht er dabei vor allem in der Entwicklung unkontrollierbarer Künstlicher Intelligenz und den Möglichkeiten der synthetischen Biologie, etwa zur gezielten Auslösung von Pandemien. Zudem dürfte es Risiken geben, die wir noch gar nicht absehen können: Leo Szilard dachte an eine nukleare Kettenreaktion erst 1933, also zwölf Jahre vor Abwurf der ersten Atombombe.
Das kumulative existentielle Risiko für die nächsten hundert Jahre schätzt Ord auf 1 zu 6, die Menschheit spiele mit ihrer eigenen Zukunft russisches Roulette. Die Abschätzung wirkt insgesamt gut begründet. Ords langfristige Prognose dagegen ist überraschend optimistisch. Die Wahrscheinlichkeit, dass die Menschheit auf lange Sicht überleben und ihr "kosmisches Potential" entfalten werde, beziffert er auf immerhin fünfzig Prozent. Dass sich folglich ein Drittel des existentiellen Risikos auf die kommenden hundert Jahre konzentriere, begründet Ord mit seiner Zuversicht, dass die Menschheit in dieser Zeit schlagkräftige globale Institutionen errichten wird, die unser Handeln fortan koordinieren. Und sollte das nicht gelingen, werde unsere Zivilisation ohnehin eher früher als später ein Ende finden - denn ein so risikoreicher Zustand wie der heutige lasse sich nicht lange aufrechterhalten.
In Science-Fiction-Filmen gelingt es oft kleinen Außenposten, Katastrophen zu überstehen, und auch Ord hält eine Besiedelung anderer Planeten schon allein deswegen für sinnvoll, weil wir uns so vor lokalen Gefahren schützen können. Doch wie er selbst bemerkt, böte selbst eine interstellare Ausbreitung nur begrenzten Schutz. Denn sollten wir einst auf eine Technologie stoßen, die unsere Zivilisation destabilisiert, so würde die Entdeckung gleichermaßen alle Niederlassungen bedrohen. Langfristig aber dürfte die größte Gefahr von unentdeckten Technologien ausgehen. Ließe sich eine Atombombe etwa mit Materialien aus dem Baumarkt fertigen, könnte die Menschheit auch mit den robustesten Institutionen nicht lange überdauern.
In Anbetracht der Weite und Unwägbarkeit einer Zukunft, die sich über Milliarden Jahre erstrecken könnte, drängt sich daher die Frage auf, ob Ord seine Leser durch die optimistische Prognose für die Zukunft vielleicht auch motivieren möchte. Denn: Je besser die langfristige Aussicht, desto höher die Klippe, von der wir heute in den Abgrund schauen, und desto tragischer wäre es, wenn wir jetzt alles verspielten.
"The Precipice" ist ein Buch, das verblüfft, weil es eine eigentlich naheliegende Frage wissenschaftlich fundiert angeht: Welche Gefahren bedrohen unsere Spezies, und wie können wir ihnen wirksam begegnen? Ord greift auf fundierte Kenntnisse vieler Fächer zurück, von den Geowissenschaften über die Informatik und Epidemiologie bis zur Astrophysik, die es ihm erst erlauben, existentielle Risiken kompetent zu diskutieren. Doch er tut dies aus einer dezidiert philosophischen Perspektive: Er strukturiert Fragen und Probleme, entwickelt Begriffe und Unterscheidungen, kennzeichnet normative und epistemische Unsicherheiten. Dabei richtet er sich an die breitere Öffentlichkeit, technische Details verbannt er in den Appendix und auf hundertdreißig Seiten Endnoten.
Dass Ord sein Buch nicht nur uns und unseren Ahnen widmet, sondern auch jenen Billionen Menschen "um deren Existenz es geht", ist unnötiges Pathos. Allgemein aber schreibt er nüchtern, mit beeindruckender analytischer Schärfe und einem Blick fürs große Ganze. Auch wer Ords Einschätzungen anzweifelt oder seine konsequentialistische Grundhaltung ablehnt, wird anerkennen müssen: Für eine Spezies, die hundertmal mehr Geld für Eiscreme ausgibt als für die Erforschung und Prävention existentieller Risiken, ist sein Vergleich mit einem pubertierenden Jugendlichen nachgerade großmütig.
FRIEDEMANN BIEBER
Toby Ord: "The Precipice". Existential Risk and the
Future of Humanity.
Bloomsbury Publishing, London, 2020. 480 S., geb., 27,- [Euro].
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main
Toby Ord is today's Carl Sagan. Clear and inspiring, this book leaves us hopeful for a flourishing human future Christine Peterson, co-founder of the Foresight Institute