From the author of When We Cease to Understand the World: a dazzling, kaleidoscopic book about the destructive chaos lurking in the history of computing and AI 'Monstrously good... Reads like a dark foundation myth about modern technology but told with the pace of a thriller' Mark Haddon John von Neumann was a titan of science. A Hungarian wunderkind who revolutionized every field he touched, his mathematical powers were so exceptional that Hans Bethe - a Nobel Prize-winning physicist - thought he might represent the next step in human evolution. After seeking the foundations of mathematics during his youth in Germany, von Neumann emigrated to the United States, where he became entangled in the power games of the Cold War; he designed the world's first programmable computer, invented game theory, pioneered AI and digital life, and helped create the atomic bombs that destroyed Hiroshima and Nagasaki. He was the darling of the military industrial complex, but when illness unmoored his mind, his work pushed further into areas beyond human comprehension and control. The MANIAC places von Neumann at the center of a literary triptych about the dark foundations of our modern world and the nascent era of AI. It begins with Paul Ehrenfest, an Austrian physicist and close friend of Einstein, who fell into despair when he saw science and technology become tyrannical forces; it ends a hundred years later, in the showdown between the South Korean Go Master, Lee Sedol, and the AI program AlphaGo. Braiding fact with fiction, Benjamín Labatut takes us on a journey to the frontiers of rational thought, where invention outpaces human understanding and offers godlike power, but takes us to the brink of Armageddon.
Hinweis: Dieser Artikel kann nur an eine deutsche Lieferadresse ausgeliefert werden.
Hinweis: Dieser Artikel kann nur an eine deutsche Lieferadresse ausgeliefert werden.
Süddeutsche Zeitung | Besprechung von 14.10.2023Die
neuen Götter
Wenn die künstliche Intelligenz solche
Romane provoziert, darf sie gerne kommen:
Benjamín Labatuts umwerfendes
Epos „Maniac“
VON FELIX STEPHAN
In Benjamín Labatuts Roman „Maniac“ beginnt die Geschichte der künstlichen Intelligenz in einer Wohnung in Budapest, ungefähr im Jahr 1913. Der später sehr berühmte Mathematiker John von Neumann ist gerade zehn Jahre alt, als sein Vater einen automatischen Webstuhl mit nach Hause bringt, „ein monströses Ding“, das, so beschreibt es Labatut, genauso aussieht wie die Maschine, die den Gefangenen in Franz Kafkas Erzählung „Die Strafkolonie“ deren Sünden mit langen Nadeln in den Rücken buchstabiert. Der Apparat soll vollautomatisch Wandteppiche herstellen, ohne auf menschliche Arbeitskraft zurückgreifen zu müssen, und dem jungen Genie kommt bei dem Anblick der Philosoph Gottfried Wilhelm Leibniz in den Sinn, der „gezeigt hatte, dass man für logische und arithmetische Operationen nur Einsen und Nullen brauchte“.
Der Webstuhl, stellt der Junge fest, macht im Grunde nichts anderes: Er beschreibt das Aussehen der Wandteppiche in der Sprache der Lochkarten, die auch der Webstuhl versteht. „Wir konnten damals nicht wissen, was kommen würde“, heißt es aus der Perspektive des älteren Bruders von John, der die Webstuhl-Anekdote erzählt, „aber irgendwie muss er beim Anblick des Webstuhls eine vage und dennoch mächtige Vorahnung von der Zukunft gehabt haben.“ Vierzig Jahre später baut Neumann in einem Kellerraum des Institute for Advanced Study in Princeton den ersten speicherbasierten Computer und gibt ihm den Namen „Mathematical Analyzer, Numerical Integrator and Computer“ – oder kurz: M A N I A C.
Der chilenische Schriftsteller Benjamín Labatut ist vor zwei Jahren mit seinem Debütroman „Das blinde Licht“ international bekannt geworden, dessen Titel nur im Deutschen auf Nabokov anspielt. Die englische Übersetzung trägt sein erkenntnisphilosophisches Programm im Titel: „When we cease to understand the world“. Das Buch war eine Sammlung fiktionalisierter Porträts real existierender Wissenschaftler, das in der Gesamtschau eine intellektuelle Geschichte des 20. Jahrhunderts ergab. Die ganz großen Durchbrüche werden bei Labatut in der Regel von Leuten erzielt, die völlig isoliert und verzweifelt mit der Welt abgeschlossen haben; und dass der Nobelpreis für Medizin soeben an Katalin Karikó ging, deren mRNA-Forschungen jahrzehntelang von den Universitäten zurückgewiesen wurden, ist so eine Geschichte, die Labatut auch nicht besser hätte entwerfen können. Die New York Times kürte „Das blinde Licht“ zu einem der besten Romane, die im Jahr 2021 weltweit erschienen sind.
In „Maniac“ geht es nun um die Geschichte der künstlichen Intelligenz, und Benjamín Labatut erzählt sie als Antihelden-Epos, so archaisch und monumental, wie es der kürzlich verstorbene Cormac McCarthy nun leider nicht mehr kann. Man hat hier Kapitel vor sich, deren Blickführung, Temperatur und Klarheit einen in den Wahnsinn treiben wollen, so wundervoll sind sie gearbeitet, und wenn sie durch ihre schiere Präsenz solche Romane hervorzukitzeln in der Lage ist, darf die künstliche Intelligenz sehr gern kommen.
Den größten Teil des Buches nimmt das Leben John von Neumanns ein, des einzigen Mathematikers der Welt, „der nicht nur das bewies, was er beweisen konnte, sondern was er beweisen wollte“. Labatut schildert ihn als Genie, das seinen Zeitgenossen nicht nur intellektuell haushoch überlegen, sondern außerdem sprunghaft, herrisch, launisch und größenwahnsinnig ist und dem die besten Einfälle in jenen Momenten kommen, wenn all diese Eigenschaften kulminieren.
John von Neumanns Leben wird hier von Kollegen, Verwandten, Feinden erzählt, die in der Rückschau von jeweils schicksalhaften Begegnungen mit ihm berichten. Und alle sind sich einig, dass er nicht nur über ein spektakuläres Gehirn verfügt, sondern außerdem ein deutlich verstörendes Verhältnis zur Macht hatte. Erfindungen lässt er sich großzügig vom amerikanischen Militär bezahlen, ethische Bedenken ignoriert er, er mag es schnell, groß und teuer.
Ein typischer Labatut-Moment: Als im Jahr 1930 gerade die sechste Deutsche Physiker- und Mathematikertagung in Königsberg zu Ende geht und alles schon zum Ausgang strebt, tritt auf einmal ein klapperdürrer, völlig unbekannter österreichischer Mathematiker namens Kurt Gödel ans Mikrofon und äußert stotternd die Überlegung, dass es in jedem kohärenten System Annahmen geben muss, die sich mit dem Mitteln jenes Systems nicht beweisen lassen. Der Einzige, der erstens noch zuhört und zweitens begreift, was da gerade gesagt wurde – die Mathematik wird nie frei von unbewiesenen Annahmen sein – , ist John von Neumann, der daraufhin alles umwirft, woran er bis dahin gearbeitet hat, und stattdessen die Spieltheorie, die Atombombe und den Computer erfindet.
Darum geht es bei Labatut: Wie sich aus dem Gewoge von historischen Zufällen, persönlichen Krisen, Eitelkeiten, Ideologien, Kriegen und Revolutionen das erhebt, was im Nachhinein wie Schicksal aussieht. Wie bei Camus ist hier alles, was eine Biografie und damit auch ein Bewusstsein formt, auf sinnliche Weise Zufall. Das Wirken des John von Neumann und seiner ganzen Wissenschaftlergeneration – Kurt Gödel, Oskar Morgenstern und viele weitere – inszeniert Labatut als lebenslangen, aber letztlich eitlen und naiven Versuch, das Irrationale und Dämonische, das ihnen in Form des Nationalsozialismus begegnet ist, durch die regulative Kraft der Rationalität zu bändigen. In einer Welt, in der Zahlen alles bestimmen, wird ein Adolf Hitler nicht mehr möglich sein.
Die Technologie fülle im 20. Jahrhundert die Leere, die der Auszug der Götter hinterlassen habe, merkt John von Neumann einmal an, sie sei das Einzige, was seine Zeitgenossen ihren Vorfahren voraus hätten. In allen Künsten seien sie verkümmert, „außer in einer, der techne, in der unsere Weisheit eine so tiefe und gefährliche geworden sei, dass die Titanen, die einst die Erde in Schrecken hielten, in Furcht erstarrt wären“.
Noch als John von Neumann 1957 stirbt, ist er bei Labatut der festen Überzeugung, dass Maschinen nie etwas anderes sein werden als „menschliche Absonderungen“, und das Staunen der Dilettanten im Angesicht seiner Erfindungen, dieser brummenden, blinkenden Ungetüme, die Bits von hier nach da jagen und dabei Millionen Berechnungen anstellen, tut er routiniert als Aberglauben ab.
Und damit beginnt der zweite Teil des Buches, er erzählt die Ankunft der neuen Götter. Neun Jahre nach Neumanns Tod wird in London Demis Hassabis geboren. Als er acht Jahre alt ist, gehört Hassabis zu den besten Schachspielern seiner Generation, doch er gibt das Spiel auf und gründet stattdessen Deepmind, eine KI-Firma, die 2014 für 400 Millionen Dollar von Google übernommen wurde. Um das Prinzip der lernenden neuronalen Netzwerke zu testen, lässt er zwei Jahre später eine Software namens Alpha-Go in dem Brettspiel Go gegen Lee Sedol antreten, den besten Spieler der Welt.
Go ist ein Brettspiel, das seit etwa 3000 Jahren ununterbrochen gespielt wird und das wegen seiner Spielweise und des größeren Feldes ungleich komplexer ist als Schach. Es erlaube mehr mögliche Konstellationen, als es Atome im bekannten Universum gibt, schreibt Labatut, und so viele verschiedene Spielverläufe, dass es „physikalisch unmöglich ist, sie in Dezimalform voll auszuschreiben. Es würde mehr Platz erfordern, als im ganzen Universum zu haben ist“. Aus diesem Grund kann eine Maschine, die nur Berechnungen anstellt, zwar Kasparow im Schach schlagen, aber noch lange nicht Sedol im Go.
Eine Doku über das Kräftemessen zwischen dem weltbesten Go-Spieler, Lee Sedol, und Alpha-Go kann man sich auf Youtube anschauen, vermutlich auch deshalb, weil Alpha-Go die Serie, die in Japan, China und Südkorea Millionen Zuschauer live verfolgt haben, 4:1 gewonnen hat, was für Google-Aktionäre eine gute Nachricht ist. Der israelische Historiker Yuval Harari beschreibt die künstliche Intelligenz stets mit der Metapher der Alien-Invasion, als Ankunft einer neuen Spezies, und auf diese Weise inszeniert auch Benjamín Labatut die Begegnung zwischen Lee Sedol und Alpha-Go: als Begegnung der dritten Art, als die erste Begegnung der Menschen mit einem neuen, körperlosen Wesen.
Spätestens nach der zweiten Niederlage spürt Sedol, dass er hier nicht nur für sich spielt, sondern für die Menschheit, und dass er eine Linie verteidigt, die bislang als unberührbar galt. Sedol muss mitansehen, wie Alpha-Go Züge hervorzaubert, die der versammelten Expertenschaft wegen ihrer Eleganz und Virtuosität den Atem verschlagen und die sich die Maschine in Millionen Partien, die sie gegen sich selbst gespielt hat, selbst erschlossen hat. Niemand hat ihr diese Züge beigebracht. Später wird Sedol Zeuge, wie die Maschine einmal überschnappt, wie sie eine Weile irrationale, irrsinnige Züge macht, als sei sie dem Wahn verfallen, und damit gleich die nächste menschliche Domäne einreißt.
Da ist John von Neumanns Prognose, dass die Maschinen die Lücke füllen werden, die die Transzendenz hinterlassen hat, gerade 60 Jahre alt, und Alpha-Go scheint nun die Rolle des jungen, launischen, verspielten Gottes perfekt zu spielen. Nach seinem Sieg verleiht ihm der südkoreanische Go-Verband den Rang eines 9. Dan, den höchsten, den er zu vergeben hat, und auf der Urkunde findet sich der Vermerk, sie werde überreicht „in Anerkennung von Alpha-Gos aufrichtigem Bemühen, die taoistischen Grundlagen des Go zu beherrschen und auf eine Stufe nahe dem Bereich des Göttlichen zu gelangen“.
Das Spiel mit Alpha-Go wird
zur Begegnung der dritten Art,
der Ankunft einer neuen Spezies
Benjamín Labatut:
Maniac.
Roman.
Aus dem Spanischen
von Thomas Brovot.
Suhrkamp, Berlin 2023.
397 Seiten, 26 Euro.
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de
neuen Götter
Wenn die künstliche Intelligenz solche
Romane provoziert, darf sie gerne kommen:
Benjamín Labatuts umwerfendes
Epos „Maniac“
VON FELIX STEPHAN
In Benjamín Labatuts Roman „Maniac“ beginnt die Geschichte der künstlichen Intelligenz in einer Wohnung in Budapest, ungefähr im Jahr 1913. Der später sehr berühmte Mathematiker John von Neumann ist gerade zehn Jahre alt, als sein Vater einen automatischen Webstuhl mit nach Hause bringt, „ein monströses Ding“, das, so beschreibt es Labatut, genauso aussieht wie die Maschine, die den Gefangenen in Franz Kafkas Erzählung „Die Strafkolonie“ deren Sünden mit langen Nadeln in den Rücken buchstabiert. Der Apparat soll vollautomatisch Wandteppiche herstellen, ohne auf menschliche Arbeitskraft zurückgreifen zu müssen, und dem jungen Genie kommt bei dem Anblick der Philosoph Gottfried Wilhelm Leibniz in den Sinn, der „gezeigt hatte, dass man für logische und arithmetische Operationen nur Einsen und Nullen brauchte“.
Der Webstuhl, stellt der Junge fest, macht im Grunde nichts anderes: Er beschreibt das Aussehen der Wandteppiche in der Sprache der Lochkarten, die auch der Webstuhl versteht. „Wir konnten damals nicht wissen, was kommen würde“, heißt es aus der Perspektive des älteren Bruders von John, der die Webstuhl-Anekdote erzählt, „aber irgendwie muss er beim Anblick des Webstuhls eine vage und dennoch mächtige Vorahnung von der Zukunft gehabt haben.“ Vierzig Jahre später baut Neumann in einem Kellerraum des Institute for Advanced Study in Princeton den ersten speicherbasierten Computer und gibt ihm den Namen „Mathematical Analyzer, Numerical Integrator and Computer“ – oder kurz: M A N I A C.
Der chilenische Schriftsteller Benjamín Labatut ist vor zwei Jahren mit seinem Debütroman „Das blinde Licht“ international bekannt geworden, dessen Titel nur im Deutschen auf Nabokov anspielt. Die englische Übersetzung trägt sein erkenntnisphilosophisches Programm im Titel: „When we cease to understand the world“. Das Buch war eine Sammlung fiktionalisierter Porträts real existierender Wissenschaftler, das in der Gesamtschau eine intellektuelle Geschichte des 20. Jahrhunderts ergab. Die ganz großen Durchbrüche werden bei Labatut in der Regel von Leuten erzielt, die völlig isoliert und verzweifelt mit der Welt abgeschlossen haben; und dass der Nobelpreis für Medizin soeben an Katalin Karikó ging, deren mRNA-Forschungen jahrzehntelang von den Universitäten zurückgewiesen wurden, ist so eine Geschichte, die Labatut auch nicht besser hätte entwerfen können. Die New York Times kürte „Das blinde Licht“ zu einem der besten Romane, die im Jahr 2021 weltweit erschienen sind.
In „Maniac“ geht es nun um die Geschichte der künstlichen Intelligenz, und Benjamín Labatut erzählt sie als Antihelden-Epos, so archaisch und monumental, wie es der kürzlich verstorbene Cormac McCarthy nun leider nicht mehr kann. Man hat hier Kapitel vor sich, deren Blickführung, Temperatur und Klarheit einen in den Wahnsinn treiben wollen, so wundervoll sind sie gearbeitet, und wenn sie durch ihre schiere Präsenz solche Romane hervorzukitzeln in der Lage ist, darf die künstliche Intelligenz sehr gern kommen.
Den größten Teil des Buches nimmt das Leben John von Neumanns ein, des einzigen Mathematikers der Welt, „der nicht nur das bewies, was er beweisen konnte, sondern was er beweisen wollte“. Labatut schildert ihn als Genie, das seinen Zeitgenossen nicht nur intellektuell haushoch überlegen, sondern außerdem sprunghaft, herrisch, launisch und größenwahnsinnig ist und dem die besten Einfälle in jenen Momenten kommen, wenn all diese Eigenschaften kulminieren.
John von Neumanns Leben wird hier von Kollegen, Verwandten, Feinden erzählt, die in der Rückschau von jeweils schicksalhaften Begegnungen mit ihm berichten. Und alle sind sich einig, dass er nicht nur über ein spektakuläres Gehirn verfügt, sondern außerdem ein deutlich verstörendes Verhältnis zur Macht hatte. Erfindungen lässt er sich großzügig vom amerikanischen Militär bezahlen, ethische Bedenken ignoriert er, er mag es schnell, groß und teuer.
Ein typischer Labatut-Moment: Als im Jahr 1930 gerade die sechste Deutsche Physiker- und Mathematikertagung in Königsberg zu Ende geht und alles schon zum Ausgang strebt, tritt auf einmal ein klapperdürrer, völlig unbekannter österreichischer Mathematiker namens Kurt Gödel ans Mikrofon und äußert stotternd die Überlegung, dass es in jedem kohärenten System Annahmen geben muss, die sich mit dem Mitteln jenes Systems nicht beweisen lassen. Der Einzige, der erstens noch zuhört und zweitens begreift, was da gerade gesagt wurde – die Mathematik wird nie frei von unbewiesenen Annahmen sein – , ist John von Neumann, der daraufhin alles umwirft, woran er bis dahin gearbeitet hat, und stattdessen die Spieltheorie, die Atombombe und den Computer erfindet.
Darum geht es bei Labatut: Wie sich aus dem Gewoge von historischen Zufällen, persönlichen Krisen, Eitelkeiten, Ideologien, Kriegen und Revolutionen das erhebt, was im Nachhinein wie Schicksal aussieht. Wie bei Camus ist hier alles, was eine Biografie und damit auch ein Bewusstsein formt, auf sinnliche Weise Zufall. Das Wirken des John von Neumann und seiner ganzen Wissenschaftlergeneration – Kurt Gödel, Oskar Morgenstern und viele weitere – inszeniert Labatut als lebenslangen, aber letztlich eitlen und naiven Versuch, das Irrationale und Dämonische, das ihnen in Form des Nationalsozialismus begegnet ist, durch die regulative Kraft der Rationalität zu bändigen. In einer Welt, in der Zahlen alles bestimmen, wird ein Adolf Hitler nicht mehr möglich sein.
Die Technologie fülle im 20. Jahrhundert die Leere, die der Auszug der Götter hinterlassen habe, merkt John von Neumann einmal an, sie sei das Einzige, was seine Zeitgenossen ihren Vorfahren voraus hätten. In allen Künsten seien sie verkümmert, „außer in einer, der techne, in der unsere Weisheit eine so tiefe und gefährliche geworden sei, dass die Titanen, die einst die Erde in Schrecken hielten, in Furcht erstarrt wären“.
Noch als John von Neumann 1957 stirbt, ist er bei Labatut der festen Überzeugung, dass Maschinen nie etwas anderes sein werden als „menschliche Absonderungen“, und das Staunen der Dilettanten im Angesicht seiner Erfindungen, dieser brummenden, blinkenden Ungetüme, die Bits von hier nach da jagen und dabei Millionen Berechnungen anstellen, tut er routiniert als Aberglauben ab.
Und damit beginnt der zweite Teil des Buches, er erzählt die Ankunft der neuen Götter. Neun Jahre nach Neumanns Tod wird in London Demis Hassabis geboren. Als er acht Jahre alt ist, gehört Hassabis zu den besten Schachspielern seiner Generation, doch er gibt das Spiel auf und gründet stattdessen Deepmind, eine KI-Firma, die 2014 für 400 Millionen Dollar von Google übernommen wurde. Um das Prinzip der lernenden neuronalen Netzwerke zu testen, lässt er zwei Jahre später eine Software namens Alpha-Go in dem Brettspiel Go gegen Lee Sedol antreten, den besten Spieler der Welt.
Go ist ein Brettspiel, das seit etwa 3000 Jahren ununterbrochen gespielt wird und das wegen seiner Spielweise und des größeren Feldes ungleich komplexer ist als Schach. Es erlaube mehr mögliche Konstellationen, als es Atome im bekannten Universum gibt, schreibt Labatut, und so viele verschiedene Spielverläufe, dass es „physikalisch unmöglich ist, sie in Dezimalform voll auszuschreiben. Es würde mehr Platz erfordern, als im ganzen Universum zu haben ist“. Aus diesem Grund kann eine Maschine, die nur Berechnungen anstellt, zwar Kasparow im Schach schlagen, aber noch lange nicht Sedol im Go.
Eine Doku über das Kräftemessen zwischen dem weltbesten Go-Spieler, Lee Sedol, und Alpha-Go kann man sich auf Youtube anschauen, vermutlich auch deshalb, weil Alpha-Go die Serie, die in Japan, China und Südkorea Millionen Zuschauer live verfolgt haben, 4:1 gewonnen hat, was für Google-Aktionäre eine gute Nachricht ist. Der israelische Historiker Yuval Harari beschreibt die künstliche Intelligenz stets mit der Metapher der Alien-Invasion, als Ankunft einer neuen Spezies, und auf diese Weise inszeniert auch Benjamín Labatut die Begegnung zwischen Lee Sedol und Alpha-Go: als Begegnung der dritten Art, als die erste Begegnung der Menschen mit einem neuen, körperlosen Wesen.
Spätestens nach der zweiten Niederlage spürt Sedol, dass er hier nicht nur für sich spielt, sondern für die Menschheit, und dass er eine Linie verteidigt, die bislang als unberührbar galt. Sedol muss mitansehen, wie Alpha-Go Züge hervorzaubert, die der versammelten Expertenschaft wegen ihrer Eleganz und Virtuosität den Atem verschlagen und die sich die Maschine in Millionen Partien, die sie gegen sich selbst gespielt hat, selbst erschlossen hat. Niemand hat ihr diese Züge beigebracht. Später wird Sedol Zeuge, wie die Maschine einmal überschnappt, wie sie eine Weile irrationale, irrsinnige Züge macht, als sei sie dem Wahn verfallen, und damit gleich die nächste menschliche Domäne einreißt.
Da ist John von Neumanns Prognose, dass die Maschinen die Lücke füllen werden, die die Transzendenz hinterlassen hat, gerade 60 Jahre alt, und Alpha-Go scheint nun die Rolle des jungen, launischen, verspielten Gottes perfekt zu spielen. Nach seinem Sieg verleiht ihm der südkoreanische Go-Verband den Rang eines 9. Dan, den höchsten, den er zu vergeben hat, und auf der Urkunde findet sich der Vermerk, sie werde überreicht „in Anerkennung von Alpha-Gos aufrichtigem Bemühen, die taoistischen Grundlagen des Go zu beherrschen und auf eine Stufe nahe dem Bereich des Göttlichen zu gelangen“.
Das Spiel mit Alpha-Go wird
zur Begegnung der dritten Art,
der Ankunft einer neuen Spezies
Benjamín Labatut:
Maniac.
Roman.
Aus dem Spanischen
von Thomas Brovot.
Suhrkamp, Berlin 2023.
397 Seiten, 26 Euro.
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de