Mustafa Suleyman, Michael Bhaskar

The Coming Wave (eBook, ePUB)

Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts
Übersetzer: Wirthensohn, Andreas

• Format: ePub

Produktbeschreibung

Die Menschheitsgeschichte kennt Innovationsschübe, die unaufhaltsam wie ein Tsunami alles verändern - die landwirtschaftliche Revolution, die Dampfmaschine, das Internet. Künstliche Intelligenz ist die nächste große Welle, die Coming Wave, die auf uns zurollt, und wir sind darauf nicht vorbereitet. Als Mitgründer von DeepMind weiß Mustafa Suleyman wie nur wenige andere, was die neuen Technologien können und wa sie anzurichten vermögen. In seinem wegweisenden, vielgelobten Buch verortet der KI-Pionier die kommende Welle in der Geschichte der Menschheit, spielt die politischen und gesellschaftlichen Folgen der neuen Technologien durch, und stellt sich dem größten Dilemma des 21. Jahrhunderts: wie wir von ihnen profitieren, ohne die Kontrolle zu verlieren. Bald werden wir in unserem täglichen Leben von KI umgeben sein. Sie wird unseren Alltag organisieren, unsere Geschäftswelt und sogar Kernaufgaben der Staatsverwaltung übernehmen. Als Mitgründer von DeepMind hat Mustafa Suleyman viele Jahre im Zentrum der KI-Revolution gearbeitet. Das kommende Jahrzehnt wird nach seiner Einschätzung von rasanten technologischen Sprüngen geprägt sein, von neuen technologischen Möglichkeiten, über deren Folgen und Risiken wir noch kein klares Bild haben. Eines aber wissen wir: Wir brauchen die KI, um die Herausforderungen zu meistern, vor denen wir stehen, etwa den Klimawandel. Gleichzeitig bergen die neuen Technologien Gefahren, wie sie von keiner vorherigen Fortschrittswelle ausgingen, bis hin zur Auflösung von Staaten und einer Verdrängung des Menschen. Was macht man mit einer Welle, die auf den Strand zurast und sich nicht aufhalten lässt? Man versucht sie zu kanalisieren. Genau das ist das Anliegen dieses Buches: Inmitten immer intensiver werdender geopolitischer Konflikte den schmalen Grad zu finden, auf dem wir die Früchte der Technologie ernten, ohne ihr zum Opfer zu fallen. Das ist die zentrale Aufgabe unserer Zeit.

---

Dieser Download kann aus rechtlichen Gründen nur mit Rechnungsadresse in A, B, BG, CY, CZ, D, DK, EW, E, FIN, F, GR, HR, H, IRL, I, LT, L, LR, M, NL, PL, P, R, S, SLO, SK ausgeliefert werden.

Produktdetails

• Verlag: C.H. Beck
• Seitenzahl: 378
• Erscheinungstermin: 15. Februar 2024
• Deutsch
• ISBN-13: 9783406814136
• Artikelnr.: 69776847

Autorenporträt

Mustafa Suleyman ist Mitbegründer der KI-Unternehmen DeepMind und Inflection AI und hat viele Jahre in führender Funktion für Alphabet gearbeitet, den Google-Mutterkonzern. Er ist weltweit einer der führenden Experten für Chancen und Risiken der neuen Technologie. Sein Buch "The Coming Wave" ist gleich nach Erscheinen der englischen Ausgabe auf die Bestseller-Listen gestürmt.

Michael Bhaskar ist ein britischer Schriftsteller, Forscher und Verleger. Er ist Mitbegründer von Canelo, einem digitalen Verlag.

Inhaltsangabe

Glossar der wichtigsten Begriffe

Prolog

Kapitel 1: Eine Eindämmung ist nicht möglich

Teil I
HOMO TECHNOLOGICUS

Kapitel 2: Endlose Ausbreitung

Kapitel 3: Das Containment-Problem

Teil II
DIE NÄCHSTE WELLE

Kapitel 4: Die Technologie der Intelligenz

Kapitel 5: Die Technologie des Lebens

Kapitel 6: Die größere Welle

Kapitel 7: Vier Merkmale der kommenden Welle

Kapitel 8: Unwiderstehliche Anreize

Teil III
VERSAGENDE STAATEN

Kapitel 9: Die große Übereinkunft

Kapitel 10: Fragilitätsverstärker

Kapitel 11: Die Zukunft der Nationen

Kapitel 12: Das Dilemma

Teil IV
DURCH DIE WELLE HINDURCH

Kapitel 13: Eindämmung muss möglich sein

Kapitel 14: Zehn Schritte hin zur Eindämmung

Schluss
Leben nach dem Anthropozän

Dank

Anmerkungen
Register

Rezensionen

Perlentaucher-Notiz zur FR-Rezension

Interessant und teils sehr besorgniserregend, was Mustafa Suleyman in diesem Buch über Künstliche Intelligenz zu berichten weiß, meint Rezensentin Lisa Berins. Der einst bei einem Start-up der KI-Szene und heute in Microsofts KI-Abteilung beschäftigte Autor glaubt,  dass die Technologie die Geschichte der Menschheit ähnlich nachhaltig prägen wird wie etwa die Erfindung der Druckerpresse, des Webstuhls oder der Elektrizität, lernen wir. Ähnlich wie im Falle dieser Technologien sei kaum absehbar, welche Auswirkungen KI in der Zukunft haben wird, selbst die Vormachtstellung des Menschen auf der Erde ist bedroht, fasst Berins die Thesen des Autors zusammen. Suleyman bietet ihr zufolge diverse Beispiele dafür auf, dass KI bereits jetzt in viele Lebensbereiche wie etwa die Landwirtschaft eingedrungen ist, und er glaubt, dass in Zukunft künstliche Intelligenz liberale Demokratien aushöhlen und Diktaturen technisieren kann. Aber keine Panik, man braucht nur mehr Expertise, um KI-Anwendungen sinnvoll zu regulieren, lernt die aufgescheuchte Rezensentin, die von diesem "packend" geschriebenen Buch sichtlich beeindruckt ist und beschließt, künftig noch wachsamer zu sein.

© Perlentaucher Medien GmbH

Frankfurter Allgemeine Zeitung | Besprechung von 16.02.2024

Gefahren für die offene Gesellschaft

Steuerungsprobleme: Mustafa Suleyman denkt darüber nach, welche Risiken rasant sich entwickelnde Technologien wie Künstliche Intelligenz und synthetische Biologie bergen.

Hat die Methode maschinellen Denkens einmal begonnen, wird sie wahrscheinlich nicht lange brauchen, um unsere beschränkten Fähigkeiten zu übertreffen", prognostizierte Alan Turing 1951 in einem Beitrag für die BBC. Die Maschinen könnten sich austauschen, um so ihren Verstand zu optimieren, und die Frage nach ihrem Tod stelle sich nicht. Turings Schlussfolgerung: "Früher oder später, so müssen wir folglich annehmen, würden die Maschinen die Kontrolle übernehmen."

Die Sorge vor einem Kontrollverlust über neuartige Technologien steht auch im Zentrum von Mustafa Suleymans Buch "The Coming Wave". Doch Suleyman, Mitbegründer und Chef des KI-Unternehmens Inflection AI, sorgt sich dabei nicht allein um Turings Szenario, in dem superintelligente Maschinen die Menschen zu Statisten im Weltenlauf degradieren (ein Szenario, vor dem führende KI-Forscher wie Geoffrey Hinton mittlerweile eindringlich warnen). Vielmehr sieht Suleyman die Menschheit an der Schwelle zu einem ganzen Bündel versatiler Technologien, von Künstlicher Intelligenz über synthetische Biologie bis hin zu Quantencomputern, die uns eine nie da gewesene Allmacht über die Welt verleihen. Mit diesen Technologien werden Versprechen des Endes von Krankheit und Armut verknüpft, sie bergen jedoch zugleich die Gefahr von Unfällen und Missbrauch - mit potentiell katastrophalen Folgen. Unsere Gesellschaften seien auf die nahende Welle epochaler, sich gegenseitig verstärkender Technologien nicht im Ansatz vorbereitet. Das zentrale Problem ist für Suleyman daher eines der Eingrenzung ("containment"): "Wie können wir die wertvollsten Technologien, die je erfunden wurden, in den Griff bekommen, wenn sie billiger werden und sich schneller verbreiten als alle anderen in der Geschichte?"

Suleymans Buch ist eine eindringliche Warnung vor den Unwägbarkeiten zukünftiger Technologien. Dass sie in dieser Deutlichkeit aus der Herzkammer des Silicon Valley kommt, mag zunächst irritieren. Suleyman, der in London aufwuchs, aber mittlerweile in Palo Alto lebt, ist schließlich ein Unternehmer, der gleich zwei der führenden KI-Labs mitbegründet und an deren Forschung mitgewirkt hat: 2010 zunächst Deepmind, das bedeutende Durchbrüche in der Technik des Reinforced Learning erzielte und 2014 in Google eingegliedert wurde, und 2022 dann Inflection AI, dessen Chatbot Pi als einfühlsamer persönlicher Assistent konzipiert ist. Das Buch, das Suleyman, der erst Ende dreißig ist, nun mit Unterstützung des britischen Autors Michael Bhaskar geschrieben hat, ist jedoch ein willkommener Kontrapunkt - zu den naiv-libertären Stimmen einflussreicher Risikokapitalgeber wie Marc Andreessen, die jegliche Regulierung von KI ablehnen, und den Äußerungen des omnipräsenten Open-AI-Chefs Sam Altman, der opportunistisch einzelne Chancen und Gefahren herausgreift.

Suleyman geht systematischer und umsichtiger vor. Einen wertvollen Beitrag zu einer Debatte, die dringend größere öffentliche Aufmerksamkeit verdient, leistet er nicht zuletzt, weil es ihm gelingt, die abstrakte Sorge vor unkontrollierbaren Technologien konkret zu motivieren. Sein Text gliedert sich dabei in vier Teile.

Der erste Abschnitt skizziert eine Art Wellentheorie der Ausbreitung neuer Technologien als Triebfedern der Geschichte der Menschen, die "von verletzlichen Primaten zur dominierenden Kraft auf dem Planeten" wurden. Suleymans Hauptaugenmerk liegt dabei auf Allzwecktechnologien wie der Schrift, der Elektrizität oder dem Internet, die so vielseitig einsetzbar sind, dass sie von Grund auf die Art und Weise verändern, wie Menschen in ihre Umwelt eingreifen können. Unter Rückgriff auf historische Beispiele zeigt Suleyman dabei auch auf, wie schwierig es ist, die Verbreitung und Weiterentwicklung nützlicher Technologien zu steuern.

Im zweiten Teil, dem Kernstück des Buches, charakterisiert Suleyman die nächste technologische Stufe. Dabei positioniert er Künstliche Intelligenz und synthetische Biologie im Zentrum, flankiert von Robotik, Quantencomputern, Nanotechnologie und Methoden zur grenzenlosen Energiegewinnung. Tatsächlich sind die Fortschritte mitunter rasant: Computerprogramme sind mittlerweile in der Lage, Witze zu erklären und Songs zu schreiben, und DNA-Synthetisierer erlauben es, DNA-Sequenzen praktisch nach Belieben zu generieren. Für Suleyman bedeuten diese Technologien eine Zäsur. Weil sie Bits und Gene als Bausteine haben und damit die vertrautere Welt der Atome hinter sich lassen, verheißen sie die Fähigkeit, grundlegender in unsere Welt einzugreifen. Diese Technologien seien nicht länger nur ein Werkzeug, sondern würden bald "das Leben gestalten und mit unserer eigenen Intelligenz konkurrieren".

Im dritten Teil des Buches beschreibt Suleyman das politische Dilemma, das sich seiner Meinung nach aus den aufgezeigten technologischen Entwicklungen ergibt. Einerseits hält er eine unkontrollierte Verbreitung der neuen Werkzeuge für bedrohlich und destabilisierend: Wie lange kann eine Gesellschaft funktionieren, wenn jeder die Möglichkeit hat, nach Feierabend in der Garage noch einige neuartige Superviren herzustellen? Im Falle massiver staatlicher Repression, um Zugang zu mächtigen Technologien zu kontrollieren, drohe andererseits ein Abgleiten in Totalitarismus. Technologische Stagnation sei jedoch auch keine Lösung: Selbst wenn es uns möglich wäre, kollektiv auf die Entwicklung neuer Technologien zu verzichten, so seien einige doch für die Bewältigung akuter Probleme - vom Klimawandel bis hin zum demographischen Wandel - essenziell.

Im vierten Teil schließlich versucht Suleyman aufzuzeigen, wie diesem Dilemma begegnet werden kann und sich die technologische Entwicklung vielleicht doch steuern ließe. Dabei präsentiert er einen ganzen Strauß an Maßnahmen, vom staatlichen "Apollo-Programm zur KI-Sicherheit und zur biologischen Sicherheit" über die Einführung strikter globaler Regeln zur Zertifizierung neuer Produkte in diesen Bereichen bis hin zur Einführung von Sondersteuern und neuartigen Unternehmensstrukturen zur Abschwächung finanzieller Anreize beim Einsatz von Hochrisikotechnologien. Punktuell könnten zudem bestehende Engpässe, etwa in der Produktion fortgeschrittener Computerchips, genutzt werden, um die Entwicklung zu bremsen und so Zeit zu gewinnen. Suleymans Ausblick bleibt dennoch eher düster. Im besten Fall sieht er offene Gesellschaften auf einem schmalen Grat, den sie von nun an für ewig beschreiten müssen und der keinen Fehltritt erlaubt.

"The Coming Wave" richtet sich an eine breitere Öffentlichkeit und ist klar und anschaulich geschrieben. Um seine Thesen zu untermauern, verweist Suleyman immer wieder auf historische Präzedenzfälle und konkrete Anwendungsmöglichkeiten. Anekdoten aus seiner Zeit bei Deepmind und Inflection AI webt er unaufdringlich in den Text ein. Nicht alle Ideen sind neu, und einige werden andernorts differenzierter ausgeführt. So geht Suleyman beispielsweise nicht auf den Gedanken ein, dass die Einbettung digitaler Technologien in unseren Alltag auch deswegen zu einer Machtverschiebung führt, weil wir gegen technische Vorgaben, anders als gegen Gesetze, oft gar nicht mehr verstoßen können. Und doch: Suleyman führt die vielfältigen Überlegungen zu einem klaren und kohärenten Argument zusammen.

Dieses Argument bietet einzelne Angriffspunkte. So ist fraglich, ob die Fälle synthetische Biologie und Künstliche Intelligenz tatsächlich analog sind. Während wir im Fall synthetischer Biologie zunächst weiterhin Werkzeuge entwickeln, über deren Einsatz Menschen bestimmen, und sich Entwicklungen auf biologischen Zeitskalen vollziehen, könnte Künstliche Intelligenz zu einem genuin autonomen Akteur werden und sich potentiell in rasantem Tempo weiterentwickeln. Darüber hinaus könnte man einzelne Behauptungen infrage stellen, etwa Suleymans These, westliche Staaten seien heute weniger handlungsfähig als in der Vergangenheit, oder seine Prognose, dass KI innerhalb der kommenden drei Jahre in einem breiten Spektrum von Fertigkeiten ein menschliches Niveau erreichen werde. Und auch einige seiner durchaus interessanten Lösungsansätze hätten eine genauere Analyse verdient: Wie etwa ließe sich ein Forschungsethos kultivieren, das auf Risikominimierung ausgerichtet ist?

Nichts davon aber betrifft den Kern von Suleymans Sorge: dass wir kurz vor der Entwicklung von Technologien stehen, die so gewaltig sind, dass ihre ungehinderte Verbreitung unsere Zivilisation in ihren Grundfesten bedroht. Diese Sorge ist nicht intuitiv, denn ein unvermittelter, radikaler Einschnitt widerspricht unserer Erfahrung. Neue Technologien dringen in aller Regel graduell in unsere Lebenswelt, und selbst wenn sie, wie das Smartphone, unsere Gewohnheiten verändern, bleiben sie gefühlt zumindest kollektiv beherrschbar. Zugleich aber scheint Suleymans Sorge rational begründet. Hätte sich herausgestellt, dass man Nuklearwaffen aus Sand herstellen kann, wäre die Geschichte wohl anders verlaufen. Welche Macht neue Technologien Menschen in den kommenden Jahren verleihen werden, lässt sich nicht genau vorhersagen. Aber in Anbetracht exponentieller Trends sollte man die Sorge, dass diese sehr weitreichend sein könnte, ernst nehmen. Nicht zuletzt im Bereich Künstlicher Intelligenz scheint eine Grenze des Fortschritts allein wegen immer schnellerer Prozessoren kaum absehbar: Verglichen mit dem menschlichen Gehirn, hat sich der Computer seit Turings Radiobeitrag im Jahr 1951 jedenfalls stark entwickelt. FRIEDEMANN BIEBER

Mustafa Suleyman und Michael Bhaskar: "The Coming Wave". Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts.

Aus dem Englischen von Andreas Wirthensohn. C. H. Beck Verlag, München 2024. 377 S., geb., 28,- Euro.

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

"Nach diesem Buch kann keiner mehr sagen, die Menschheit hätte es nicht gewusst."
Süddeutsche Zeitung, Andrian Kreye

"Einen wertvollen Beitrag zu einer Debatte, die dringend größere öffentliche Aufmerksamkeit verdient, leistet Suleyman nicht zuletzt, weil es ihm gelingt, die abstrakte Sorge vor unkontrollierbaren Technologien konkret zu motivieren. ... Klar und anschaulich."
Frankfurter Allgemeine Zeitung, Friedemann Bieber

"Suleyman warnt davor dass Zukunftstechnologien wie KI, Robotik und Biotech zu einer großen Welle zusammenkommen, mit der die Menschheit nicht umgehen kann."
Süddeutsche Zeitung, Andrian Kreye

"sachkundig und erhellend"
Deutschlandfunk, Vera Linß

"Einer, der sich auskennt mit KI, warnt jetzt vor einer Welt, in der KI sich ungesteuert ausbreiten kann."
ZEIT Magazin Newsletter Was für ein Tag!, Christoph Amend

"Bietet sowohl einen verständlichen Einstieg und Überblick in die Debatte um KI und ihre Regulierung als auch eine neue Perspektive auf ihre weitere Entwicklung. Zugleich ist das Buch ein Appell, die Demokratie zu stärken und internationale Zusammenarbeit zu fördern."
Handelsblatt

"Ein faszinierendes, gut geschriebenes und wichtiges Buch."
Yuval Noah Harari

"Mustafa Suleymans Einblicke als Technologe, Unternehmer und Visionär sind unverzichtbar. Tiefgründig recherchiert und höchst relevant, bietet dieses Buch einen fesselnden Einblick in einige der wichtigsten Herausforderungen unserer Zeit."
Al Gore

"In der konzisen Beschreibung ... sehen wir die enormen Chancen auf mehr Wohlstand und die immensen Risiken bis hin zur Katastrophe."
WELT am Sonntag

Sachbuch-Bestenliste von der literarischen WELT, NZZ, RBB Kultur und Radio Österreich 1 im März 2024

"Das beste Buch zu den Herausforderungen und Veränderungen durch KI und synthetische Biologie. Besonders toll ist, dass es einen umfassenden historischen Kontext mitliefert."
Frankfurter Allgemeine Zeitung, Henning Besser

"Seine Thesen untermauert Suleyman glaubhaft mit Beispielen aktueller Entwicklungen"
Frankfurter Rundschau, Lisa Berins

"Suleymann stellt die KI in eine Reihe mit der Erfindung der Dampfmaschine oder der Entdeckung der Elektrizität und macht die Bedeutung so greifbar."
Handelsblatt, Sven Prange

"Suleyman argumentiert nüchtern analytisch, differenziert ausgewogen, technisch fundiert und trotzdem niemals langatmig. Sein Buch ist höchst relevant und ermöglicht die nötige Grundlagenarbeit zur Vorbereitung auf die Zukunft - und die kommende Welle."
Spektrum der Wissenschaft, Ronald Sladky

"Ein Sachbuch, das packend geschrieben ist und zugleich seriös argumentiert."
Tagesspiegel, Gerhard Vowe

"Um den Aufstieg und die Zukunft von KI zu verstehen, erweist sich das Werk als unverzichtbare Lektüre. Fesselnd und anschaulich schildert Suleyman aus einer sehr persönlichen Perspektive."
Handelsblatt, Lina Kees

"Erzählt anschaulich von den Verheißungen der Künstlichen Intelligenz."
Frankfurter Allgemeine Zeitung

"Suleyman fordert mit künstlicher Intelligenz verantwortungsvoll umzugehen und ihre sozialen und politischen Folgen eingehend zu diskutieren."
BUNDmagazin