Nick Bostrom

Superintelligenz

Szenarien einer kommenden Revolution
Aus d. Engl. v. Jan-Erik Strasser

• Gebundenes Buch

Produktbeschreibung

Was geschieht, wenn es Wissenschaftlern eines Tages gelingt, eine Maschine zu entwickeln, die die menschliche Intelligenz auf so gut wie allen wichtigen Gebieten übertrifft? Klar ist: Eine solche Superintelligenz wäre enorm mächtig und würde uns vor Kontroll- und Steuerungsprobleme stellen, verglichen mit denen die Bewältigung des Klimawandels ein Klacks ist. Mehr noch: Vermutlich würde die Zukunft der menschlichen Spezies in den Händen dieser Superintelligenz liegen, so wie heute die Zukunft der Gorillas von uns abhängt. Zukunftsmusik? Oder doch Science-Fiction?
Eindeutig Zukunftsmusik, sagt Nick Bostrom, und zwar eine, die vielleicht schon binnen eines Menschenalters erklingen wird. Damit wir verstehen, was auf uns zukommt, nimmt er uns mit auf eine faszinierende Reise in die Welt der Orakel und Genies, der Superrechner und Gehirnsimulationen, aber vor allem in die Labore dieser Welt, in denen fieberhaft an der Entwicklung einer künstlichen Intelligenz gearbeitet wird.
Bostrom skizziert mögliche Szenarien, wie die Geburt der Superintelligenz vonstattengehen könnte, und widmet sich ausführlich den Folgen dieser Revolution. Sie werden global sein und unser wirtschaftliches, soziales und politisches Leben tiefgreifend verändern. Wir müssen handeln, und zwar kollektiv, bevor der Geist aus der Flasche gelassen ist - also jetzt! Das ist die eminent politische Botschaft dieses so spannenden wie wichtigen Buches.

Produktdetails

• Verlag: Suhrkamp
• Originaltitel: Superintelligence. Paths, Dangers, Strategies
• Seitenzahl: 480
• Erscheinungstermin: 10. November 2014
• Deutsch
• Abmessung: 220mm x 143mm x 33mm
• Gewicht: 648g
• ISBN-13: 9783518586129
• ISBN-10: 3518586122
• Artikelnr.: 40866406

Rezensionen

Süddeutsche Zeitung | Besprechung von 20.04.2015

Wenn die Superhirne kommen
Wird die künstliche Intelligenz die Menschheit unterjochen? Ein neuer Bangemacher von Nick Bostrom
Der schwedische Autor Nick Bostrom lächelt fröhlich und glatzköpfig vom Klappenumschlag. Er ist ein rechter „Eierkopf“, ein „egghead“, wie man seinerzeit in Amerika und England die Intellektuellen liebevoll nannte.
  In seinem Buch „Superintelligenz“ berichtet Bostrom, derzeit in Oxford Direktor eines „Future of humanity“ genannten Instituts, nicht ohne eine gebührende Bewunderung, wie „fieberhaft“ an der Entwicklung der KI, der künstlichen Intelligenz, englisch AI, gearbeitet werde. Eines düsteren Tages werde es dazu kommen, dass Superintelligenzen, in welcher Gestalt auch immer, ins Leben gerufen werden, die uns unbedarften Sterblichen an Geisteskräften weit überlegen sind, die wir nicht einmal mehr verstehen könnten. Sie würden uns manipulieren und beherrschen. Warnen will Autor Bostrom die Menschheit vor einer solchen Zukunft, an der kluge Köpfe heute basteln. Man denkt hier an Atomwissenschaftler, die zuerst die Bombe bauten und danach sich, mea culpa, an die Brust schlugen. Bostrom beginnt den zweiten Teil seines Buchs mit der bangen Frage „Sind wir dem Untergang geweiht?“ Nun stellen fraglos die Neuerungen in den Kognitions- und Computerwissenschaften eine nicht geringe Herausforderung dar, aber ob sie zum Untergang der Menschheit in etwa hundert Jahren führen, wie Bostrom schätzt, ist wilde Spekulation.
  Im ersten Teil wird kompetent und en detail beschrieben, wie KI-Forscher zusammen mit Kognitionswissenschaftlern, wozu Neurologen, Psychologen, Linguisten, Computerexperten und auch ein paar Philosophen gehören, dabei seien, eine „Intelligenzexplosion“ herbeizuführen, genauer, überragende künstliche Intelligenzen mit Selbstbewusstsein, Intention und einem Ego zu fabrizieren. (1957 übrigens provozierte Gotthard Günther die Gebildeten unter den Verächtern der Kybernetik – das war zu der Zeit das Zauberwort – mit einer Schrift über „Das Bewußtsein der Maschinen“, in der er allerdings vom Nachbau eines menschlichen Gehirns zurückschreckte.) Dass Forschung ohne große Rechner heutzutage stagnieren würde und ohne miniaturisierte Computer Flugzeuge, Autos oder Küchenmaschinen nicht betrieben werden können, ist offenkundig. Menschliche Gehirne hinken hinter solchen Fixigkeiten weit hinterher. Aber Bewusstsein, Fühlen und Erleben, das wird man Maschinen, Rechnern, Computern, Robotern schwerlich zugestehen. Selbst Bostroms Superintelligenz ist nur ein uninspiriertes Fragment menschlichen Vermögens, und ihre Herausforderung ist folglich auch nicht die „beängstigendste Aufgabe, der die Menschheit je gegenüberstand“. (Bostrom liebt Superlative. Durch Klimakatastrophe, Überbevölkerung, Luftverschmutzung, Atomkrieg, Meteoriteneinschlag oder den Islam sind wir freilich schon hinreichend mit Horrorszenarien versehen.)
  Immer noch orientiert sich KI-Forschung am menschlichen Gehirn. Man zeigt beglückt, dass der Computer nach Art des Gehirns funktioniert; und verweist zugleich stolz darauf, dass das Gehirn ganz nach Art eines Computers arbeite. Diesen Zirkel – er ist wohl nicht vitios – wollen jedoch KI-Forscher und auch Bostrom nicht bemerken. Ein anderer Weg zur „radikalen Superintelligenz“ führt über „rekursive Selbstverbesserung“ zu einer „noch schlaueren Version von sich selbst“, was bis zu einem gewissen Grade – als lernende Software – ja bereits existiert. Als weitere Alternative führt Bostrom die Gehirnemulation vor. Hierbei soll durch Hochladen, das heißt Scannen, die „komputionale Struktur“– was soll das sein? – eines echten Gehirns geradezu „plagiiert“ werden, sodass der so emulierte „menschliche Geist“ nun gleichsam in einem PC haust („Viele der Argumente in diesem Buch sind vermutlich falsch“, erklärt der sympathische Autor gleich anfangs dem erstaunten Leser.) Als dritten Weg zur verkündeten Intelligenzexplosion erörtert Bostrom genetische und medizinische Manipulationen und Selektionen zur Steigerung des IQ im Gehirn. Damit gerät er auf ein kategorial anderes, noch heikleres Thema, nämlich das der Menschenzüchtung.
  Wann überhaupt Superintelligenz Realität werde, hänge auch davon ab, wann die Neurowissenschaftler die „Geheimnisse des Gehirns entschlüsselt“ hätten, und das sei schwer zu sagen – was kein Geheimnis ist. Ansonsten ist alles, was derzeit in KI-Forschung und Kognitionswissenschaften an zweifellos Staunenswertem im Fluss ist, vom Autor gut lesbar aufbereitet; was aber die angekündigte Superintelligenz betrifft, die liegt in weiter Ferne, wie auch Bostrom immer wieder versichert. Alles, was Maschinen als menschliche Konstrukte können, verdanken sie niemals sich selbst, sie haben kein Selbst. Bostrom erliegt, wie alle KI-Techniker, dem Irrtum, dass, wenn man eine Maschine bauen kann, die sich intelligent verhält, sie auch wirklich intelligent ist. Von philosophischer Seite ist der Irrtum in einem überzeugenden Gedankenexperiment von John Searle aufgedeckt worden: Mein cleverer Computer, in den ich diese Sätze schreibe, weiß absolut nichts von ihrem Sinn, er reagiert nur dumpf auf Tastendrucke.
  Die totale Abhängigkeit künstlicher von menschlicher Intelligenz verrät sich schon in Bostroms Sprache, vor allem im Kapitel „Der Erwerb von Werten“. Da ist davon die Rede, wie wir Werte „einschleusen“ können, es gebe ein „Wertgebungsproblem“; überlegt wird, ob man der KI die gleichen bewertenden Dispositionen geben muss, die Menschen haben. Etwas Vertracktes für Philosophen, aber die kommen bei Bostrom nirgends zu Wort. Intelligenz, auch Superintelligenz ist nur ein Ausschnitt aus dem vieldimensionalen menschlichen Geist. Und die Panikmache in diesem Buch (das nicht so recht zu Suhrkamp passt) ist, milde gesagt, fehl am Platz.
WILLY HOCHKEPPEL
Nick Bostrom: Superintelligenz. Szenarien einer kommenden Revolution. Aus dem Englischen von Jan-Erik Strasser. Suhrkamp Verlag, Berlin 2014. 479 Seiten, 28 Euro.
Die große Frage bleibt: Ist eine
Maschine, die sich intelligent
verhält, wirklich intelligent?
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de

Perlentaucher-Notiz zur F.A.Z.-Rezension

Thomas Thiel findet es rührend, dass ausgerechnet Nick Bostrom, einer der Mitbegründer des Weltverbandes der Transhumanisten, vor der drohenden Gefahr einer übermächtigen künstlichen Intelligenz warnt, die sich gegen ihren Schöpfer wenden könnte, ohne dabei auf die brüchigen Grenzen unserer menschlichen Moralvorstellungen allzu große Rücksicht zu nehmen. In "Superintelligenz" entwirft Bostrom schließlich einen "bizarren neuhumanistischen Posthumanismus", der versuchen soll, das heraufdämmernde nachmenschliche Zeitalter immerhin so weit zu antizipieren, dass bei der Programmierung ihrer zukünftigen Herren das humane Gemeinwohl nicht vollkommen außer Acht gelassen wird, so Thiel.

© Perlentaucher Medien GmbH

Frankfurter Allgemeine Zeitung | Besprechung von 19.12.2014

Die Superintelligenz ist gar nicht super

Ein Transhumanismus mit menschlichen Bedenken: In Nick Bostroms Utopie von einer Zukunft in den Fängen der künstlichen Intelligenz schlägt sich der Verstand mit eigenen Mitteln.

Literaturagenten würden von einem solchen Beginn abraten: "Viele der Argumente in diesem Buch sind vermutlich falsch, und wahrscheinlich habe ich auch Überlegungen von entscheidender Bedeutung nicht berücksichtigt, womit einige oder alle meine Schlussfolgerungen ungültig wären." Es ist aber nicht falsche Bescheidenheit, sondern der Respekt vor seinem übermächtigen und schwer erkennbaren Gegenstand, der Superintelligenz, der den Oxforder Zukunftsdenker Nick Bostrom so demütig beginnen lässt.

Solch eine Superintelligenz ist ein Verstand, der den menschlichen in allen Belangen übertrifft. In Teilbereichen ist das längst geschehen. Computer können besser Schachspielen und Kreuzworträtsel lösen, sie verfügen bei Bedarf über ein breiteres Allgemeinwissen (Watson!), wissen mehr über das Innenleben eines Fahrzeugs als jeder Automechaniker. Und wenn einmal eintritt, was Eric Schmidt prophezeit hat, dann sagt eine Suchmaschine in Zukunft ihrem Kunden, was er sucht, und nicht umgekehrt. Kein Navigationssystem, kein Industrie- und Haushaltsroboter läuft heute ohne KI.

Aber ein Schachcomputer kann eben nur eines: Schach. Und eine Kreuzworträtselsoftware nur: Kreuzworträtsel lösen. Eine Superintelligenz könnte beides zusammen und noch mehr, und sie hätte damit, zumindest theoretisch, die Möglichkeit, sich zu einem "Singleton" aufzuschwingen. Bostrom meint damit eine Weltordnung, in der es auf globaler Ebene nur noch einen einzigen allmächtigen Potentaten gibt.

Von so einer Intelligenz hat Bostrom, Mitbegründer des Weltverbandes der Transhumanisten, lange geträumt. Er hat Bücher geschrieben, die sich mit der Verbesserung des IQ befassen, und man hatte damals den Eindruck, dass es ihm nicht schnell genug damit gehen könne, bis wir mit frisiertem und in Silizium verewigtem Intellekt in halber Lichtgeschwindigkeit durch die Galaxien reisen. In seinem neuen Buch ist von der utopischen Energie noch einiges zu spüren. Verklungen ist die Euphorie. "Jedes Gefühl der Vorfreude wäre fehl am Platz. Bestürzung und Angst würden es eher treffen." Im Schicksalston schwört Bostrom die Menschheit auf ihre alles entscheidende Aufgabe ein: das heranschleichende Monster zu zähmen.

Natürlich ist das alles spekulativ. Es bleibt offen, wie wir uns so eine Intelligenz vorzustellen haben, ob es eine Kopie des menschlichen Denkorgans, eine dem Gehirn nachgebaute oder eine rein maschinelle KI sein soll. Die Künstliche-Intelligenz-Forschung lebt seit Jahrzehnten vom verlängerten Versprechen, solch eine autonome Intelligenzbestie in absehbarer Zeit zu schaffen. Schaut man sich an, welche Probleme sie schon damit hat, ein einzelnes Neuron nachzubauen, wird mit einer Kopie des menschlichen Gehirns mit seinen über hundert Milliarden Neuronen nicht so bald zu rechnen sein.

Das tut auch Bostrom nicht, aber er glaubt, dass sich die Lage in einigen Jahrzehnten geändert haben könnte, schon weil wir dann viel reicher sein würden. Den gordischen Knoten der KI durchschlägt dieses Argument freilich nicht. Die größten Chancen räumt Bostrom der maschinellen KI ein. Ob sie einen Willen und einen Körper haben wird, ist auch hier ganz offen. Vieles an der Superintelligenz können wir uns schon deshalb nicht vorstellen, weil sie, milliardenfach intelligenter als wir, ganz andere Vermögen haben wird. Wahrscheinlich wird sie sehr viel schneller denken als wir, vielleicht auch über kognitive Fähigkeiten ganz anderer Art verfügen. Die Außenwelt würde für so einen antriebsbeschleunigten Intellekt wie in Zeitlupe ablaufen, und er würde sich womöglich lieber in virtuellen Welten oder fernen Galaxien einrichten, weil die Zeit auf Erden so zäh verfließt.

Gewiss ist nur, dass nach dem Antritt der Superintelligenz alles sehr schnell gehen würde, weil sie sich in atemberaubender Geschwindigkeit fortentwickelt. Wahrscheinlich, meint Bostrom, käme auch dieser Antritt explosionsartig. Besser wäre ein langsamer, weil dann vielleicht die Zeit bliebe, sie zum Dienst an der Menschheit zu programmieren.

Wie das aber gelingen soll, weiß weder Bostrom noch sonst ein KI-Experte dieser Welt. Programmieren lässt sich nur mit definiten Begriffen, Werte sind vage und wandelbar, und wer wollte sich anmaßen, einer Software den höchsten Lebenszweck vorzugeben? Schon eine hedonistische Software, so Bostrom, stünde vor großen Problemen. Ein Programm, dem die Lustmaximierung oberstes Gebot wäre, könnte seinem Auftraggeber Lustelektroden implantieren oder Erfahrung auf ein simples Belohnungssystem reduzieren. Wahrscheinlicher ist, dass die erste Superintelligenz wie Goethes Besen ein reduktionistisches Ziel verfolgen wird, möglicherweise selbstlernend und in Grenzen kreativ, aber eigenen Interessen folgend.

In seinem Schwanken ist "Superintelligenz" trotzdem ein bemerkenswertes Buch. Wenn Nick Bostrom eingangs über Embryonenselektion als Mittel der allgemeinen Intelligenzsteigerung räsonniert, klingt daran noch die alte Manie an; die später aber aus Angst vor ihren unbeabsichtigten Nebenwirkungen in einen bizarren neuhumanistischen Posthumanismus umschlägt. Es hat etwas Rührendes, wenn ausgerechnet ein Transhumanist schreibt, wir sollten in diesem Übergang unsere Menschlichkeit nicht verlieren.

Bostroms Konversion hat auch damit zu tun, dass ihm der zweite Pfeiler des Transhumanismus, der evolutionäre Denkstil, brüchig geworden ist. Der Evolution ist es egal, wenn sich eine Superintelligenz gegen ihren abgehängten Schöpfer stellt. Bostrom bringt es auf das Bild einer Gesellschaft, an deren Spitze ein dementer König mit einem unfähigen Hofstaat steht, der einem Heer von turmhoch überlegenen Arbeitern befiehlt - mit der dann nur noch rhetorischen Frage, ob so eine Ordnung stabil sein könne. Vielleicht wird alles - siehe Anfang - so nie kommen, und man sollte in der Zwischenzeit auf mittlerer Ebene darüber nachdenken, mit welchen Folgen künstliche Intelligenz schon heute in den Händen ganz realer Mächte das Denken übernimmt.

THOMAS THIEL

Nick Bostrom: "Superintelligenz". Szenarien einer kommenden Revolution. Aus dem Englischen von Jan-Erik Strasser. Suhrkamp Verlag, Berlin 2014. 480 S., geb., 28,- [Euro].

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

" ... (ein) tiefsinniges und originelles Pionierwerk ..."
Michael Holmes, Neue Zürcher Zeitung am Sonntag 26.10.2014

»... ein lohnendes Gedankenexperiment, das zeigt, wie ernst die lange belächelte KI-Forschung heute genommen werden sollte.« Maja Beckers DIE ZEIT 20150115