Murray Shanahan

Die technologische Singularität

Übersetzung:Miller, Nadine

• Gebundenes Buch

Produktbeschreibung

'Technologische Singularität' bezeichnet den Zeitpunkt, an dem von künstlicher Intelligenz gesteuerte Maschinen sich fortlaufend selbst so zu verbessern imstande sind, dass sie sich der Beherrschung durch Menschenhand entziehen. Der Robotikspezialist Murray Shanahan beschreibt die unterschiedlichen derzeit weltweit vorangetriebenen technologischen Entwicklungen, die zu einem solchen Ereignis führen können. Er führt auf verständliche Weise in die komplexen Forschungen ein, die unsere nächste Zukunft verändern werden. Aus der Perspektive eines Praktikers beschäftigt er sich mit der Frage, ob künstliche Intelligenz über Bewusstsein verfügen kann, und entwickelt moralische Ansätze zu einem verantwortlichen Umgang mit dieser zumeist als Katastrophenszenario gezeichneten Zukunftsfantasie.

Produktdetails

• Verlag: Matthes & Seitz Berlin
• Originaltitel: The Technological Singularity
• 2. Aufl.
• Seitenzahl: 253
• Erscheinungstermin: 3. Dezember 2020
• Deutsch
• Abmessung: 202mm x 118mm x 25mm
• Gewicht: 302g
• ISBN-13: 9783957573513
• ISBN-10: 3957573513
• Artikelnr.: 47080351

Autorenporträt

Murray Shanahan ist Professor für Kognitive Robotik am Imperial College London. Seine Forschungsgebiete sind Gehirnverbindungen, vergleichende Wahrnehmung und die Beziehung zwischen Erkenntnis und Bewusstsein. Er veröffentlicht seit 1994 regelmäßig zum Thema Künstliche Intelligenz, u.a. das Standardwerk Embodiment and the Inner Life: Cognition and Consciousness in the Space of Posible Minds. Nadine Miller, in New York geboren, aufgewachsen in Deutschland, übersetzt seit 1980 literarische und wissenschaftliche Texte aus dem Französischen und Englischen.

Rezensionen

Perlentaucher-Notiz zur F.A.Z.-Rezension

Rezensent Friedemann Bieber empfiehlt Murray Shanahans Gedanken zur KI als zugängliche Einführung in das Thema. Dem Glauben des Autors an eine technologische Singulaität in der Zukunft möchte Bieber sich zwar nicht unbedingt anschließen, die im Buch ausgeführten Ansätze zur Realisierung der KI a) durch Gehirnemulation und b) durch lernende Algorithmen liest er jedoch mit Spannung. Vermisst hat der Rezensent bei Shanahan die eingehende Diskussion moralischer und philosphischer Fragen zum Thema.

© Perlentaucher Medien GmbH

Süddeutsche Zeitung | Besprechung von 01.03.2021

In Gegenwart einer gewaltigen Kreatur
Das Buch „Die technologische Singularität“ des britischen KI-Forschers Murray Shanahan ist das Grundlagenwerk für die Zukunft
Die technologische Singularität ist seit einiger Zeit so etwas wie die Offenbarung des Johannes für Informatiker. Es geht dabei um den Moment, an dem künstliche Intelligenz (KI) den Menschen auf allen Gebieten intellektueller Betätigung übertrumpft. Ob KI dann zur Apokalypse oder zur Erweckung wird, ist bisher noch eine Frage der Interpretation. Glaubt man Untergangspropheten wie dem Milliardär und Tesla-Chef Elon Musk, dann sollten wir uns auf alle Fälle bald einen Platz auf einer der Marsfähren seiner Firma Space-X sichern und auf den roten Planeten umsiedeln. Glaubt man dem Apostel der digitalen Erweckung Ray Kurzweil, werden wir unser Gehirn mithilfe eines Neurolinks an die globale Wolke des Weltwissens anschließen und über einen Intelligenzquotienten von viertausend verfügen.
Nun wird das mit dem Leben auf dem Mars nichts werden, weil den meisten Menschen schon auf der Reise dorthin so übel würde, dass sie nie wieder zu etwas zu gebrauchen wären. Und wie eine Menschheit einen viertstelligen IQ psychologisch verarbeiten soll, die schon mit einem Jahr Hausarrest nicht klarkommt, ist auch noch nicht ganz zu Ende gedacht. Weswegen es zum Glück das Buch „Die technologische Singularität“ von Murray Shanahan gibt.
Shanahan ist Professor für Kognitive Robotik am Imperial College in London und kennt sich mit künstlicher Intelligenz so gut aus, dass der Hollywood-Regisseur Alex Garland ihn als Berater für seinen KI-Thriller „Ex Machina“ aus dem Jahr 2015 engagierte. Der wiederum unter KI-Wissenschaftlern neben Kubricks „2001“ als einer der wenigen Filme gilt, der das Prinzip der künstlichen Intelligenz richtig vermittelt.
Shanahan brachte in dem Film auch ein paar Anspielungen auf den Philosophen Ludwig Wittgenstein unter, dessen Denken viele Menschen ähnlich überfordert wie die Vorstellung, dass eine Maschinenintelligenz die Intelligenz des Menschen übertreffen könnte. Bei einem Auftritt in London schaffte Shanahan es sogar einmal, mit Wittgenstein in wenigen Minuten die Möglichkeit eines Maschinenbewusstseins zu skizzieren. Er stellte damals klar, dass sich der Mensch von der Idee lösen muss, dass eine Maschine ein menschenähnliches Bewusstsein entwickeln könne, man sich aber trotzdem damit auseinandersetzen sollte. Wittgenstein habe nicht nur als einer der Ersten die Frage gestellt, ob Maschinen denken können. Er habe vor allem beschrieben, wie man sich angesichts anderer, exotischer Bewusstseins- und Wesenszustände wie den von Tieren, Pflanzen, Gesteinen oder Planeten als Mensch verändere. Künstliche Intelligenz gehöre in diese Reihe der exotischen Bewusstseinsformen, sagte er. „Wir sind in Gegenwart einer gewaltigen Kreatur.“
Auch in seinem Buch zitiert er Wittgenstein, um diese neuen Wesensformen am Beispiel der Kommunikation zu zeigen. Menschliche Sprache, so sagt er, sei ein verrauschtes und mit nur geringer Bandbreite ausgestattetes Medium. Ein Team von KIs aber könne Inhalt ohne solche Beschränkungen einander klar und direkt vermitteln. Nur müsse man sich, um solche Vorgänge zu konstruieren, vom Vorbild des biologischen Gehirns lösen. Das ist bei ihm zunächst ein Problem der Technik, dann der Rezeption und dann der Philosophie. Wobei man Shanahan hoch anrechnen muss, dass er seine Gedankengerüste als Autor in einfacher Sprache vermittelt und die Lesenden mit Verweisen auf populäre Filme und Bücher immer wieder auf vertraute Wissensgebiete holt.
Vieles von dem, was Murray in „Die technologische Singulariät“ beschreibt, wird Theorie oder Utopie bleiben. Aber im Spannungsfeld zwischen Philosophie und Informatik arbeitet er nicht nur die Möglichkeiten, sondern auch die Metaphern der KI-Forschung heraus. Weil die Automatisierung oder gar die Erzeugung von eigenständigen intellektuellen Leistungen die Einzigartigkeit des menschlichen Geistes infrage stellt. Er schreibt dabei dezidiert gegen einen „Biozentrismus“ an, gegen die Weigerung, die Existenz andersartiger Intelligenzformen zu akzeptieren. „Meat Chauvinism“ nennen das seine Kollegen aus der weiteren Kognitionsforschung wie Steven Pinker und Daniel Dennett.
Vieles bereitet in seinen extremen Gedankenspielen aber auch die Herausforderungen vor, die die Automatisierung von Entscheidungsprozessen schon seit einiger Zeit mit sich bringt. Denn es ist ja keineswegs sicher, wie sich künstliche Intelligenz entwickeln und auswirken wird. Immer wieder steht im Buch die Grundfrage im Raum, ob eine KI sich als freundliches Dienerwesen wie Siri im Smartphone oder als zerstörerische Kraft wie Hal aus Stanley Kubricks Film „2001“ manifestiert.
Es spricht für die Grundsätzlichkeit des Buches, dass es im englischen Original schon 2015 erschien und auf Deutsch erst jetzt. Nichts daran ist veraltet. Außer dass manche technologischen Schritte, die bei Shanahan noch als Gedankenspiele vorkommen, in der Realität inzwischen vollzogen sind. Ein Neurolink zum Beispiel, der es erlaubt, eine physische Verbindung zwischen einem biologischen Hirn und einem Rechner herzustellen, wurde schon von mehreren Firmen entwickelt. Und das Experiment, Daten-Bits auf einem DNA-Strang abzuspeichern und wieder abzurufen, hätte man vor fünf Jahren noch als Hirngespinst abgetan. Die Bostoner Firma Catalog hat allerdings vor anderthalb Jahren schon den gesamten Inhalt der Wikipedia auf so ein Erbgut geschrieben. Und der Genwissenschaftler George Church hat ausgerechnet, dass ein DNA-Würfel mit einer Seitenlänge von einem Meter ausreichen würde, um den Speicherbedarf der Menschheit für ein Jahr zu decken. Dann kommt noch das 5G-Netzwerk dazu, Superanabolika für das Internet. Und hat inzwischen alle Welt schon die tanzenden Roboter von Boston Dynamics gesehen? Die relativieren Shanahans Einschränkung, dass KI weitgehend körperlos bleiben wird.
Wer sich für die Zukunft interessiert, kann „Die technische Singularität“ also getrost als Grundlagenwerk betrachten. Denn es wird noch lange interessant bleiben, Murray Shanahans Gedankengängen zu folgen. Zumal er bei all seiner Begeisterung für die Möglichkeiten der KI, bei aller Offenheit für Gedankenexperimente, doch immer Agnostiker bleibt. Die Offenbarungen überlässt er anderen.
ANDRIAN KREYE
Sind künstliche Intelligenzen
freundliche Dienerwesen
oder doch zerstörerische Kraft?
Murray Shanahan:
Die technologische
Singularität. Aus dem Englischen von Nadine Miller. Matthes & Seitz, Berlin 2021. 253 Seiten,
20 Euro.
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de

Frankfurter Allgemeine Zeitung | Besprechung von 18.06.2021

Wie kommt die Maschine zur Welt?

Murray Shanahan überlegt, auf welchen Pfaden eine Künstliche Intelligenz Wirklichkeit werden könnte, die ihren Schöpfer abhängt.

Als technologische Singularität bezeichnet Murray Shanahan, Professor für Kognitive Robotik am Imperial College in London, den Zeitpunkt, an dem "ein exponentieller Fortschritt in der Technologie derart dramatische Veränderungen herbeiführen würde, dass die menschliche Existenz, wie wir sie heute verstehen, an ein Ende käme". Was wäre also, wenn wir eine allgemeine Künstliche Intelligenz (KI) erschaffen würden, die sich dann selbst - und immer rascher - verbessern könnte?

Der Gedanke, dass wir an einen Punkt gelangen könnten, ab dem sich der technologische Fortschritt ohne menschliches Zutun vollzieht und dabei zunehmend beschleunigt, ist nicht neu. Nick Bostrom etwa, Philosoph am Future of Humanity Institute in Oxford, stellte die Möglichkeit eines solchen Kontrollverlusts ins Zentrum seines 2014 erschienenen Bestsellers "Superintelligence". Shanahan versteht sein Buch, etwas bescheidener, als Einführung in das Thema. Er möchte die technischen Herausforderungen auf dem Weg zur Realisierung der technologischen Singularität aufzeigen und die philosophischen Fragen sondieren, die diese Möglichkeit aufwirft.

In einigen Bereichen sind Computerprogramme Menschen längst überlegen. Doch in der Regel sind es hoch spezialisierte Programme, die uns in eng umgrenzten Kontexten bezwingen: Sie rechnen effizienter, finden zuverlässiger den Weg durch den Feierabendverkehr, setzen uns schachmatt. Der Mensch dagegen ist, wie Shanahan schreibt, "ein Generalist, ein Alleskönner", "anpassungs- und lernfähig". Um als Akteur grundlegend in die Welt einzugreifen und sich selbständig zu verbessern, müsste eine Maschine ähnlich vielseitig begabt sein.

Shanahan konzentriert sich daher auf die Entwicklung einer allgemeinen KI, und er sieht dabei zwei zentrale Herausforderungen. Zum einen müsste eine solche Maschine die Zusammenhänge der Welt durchschauen, also über eine Art "Common Sense" verfügen. Zum anderen müsste sie in der Lage sein, Probleme zu überwinden, indem sie eigenständig neuartige Lösungen entwickelt, also "Kreativität" besitzen.

Shanahan glaubt, dass es zwei fundamental verschiedene Ansätze zur Realisierung einer allgemeinen KI gibt. Beim biologischen Ansatz der Gehirnemulation besteht das Ziel darin, sämtliche Vorgänge im menschlichen Gehirn, oder im erweiterten Nervensystem, in einem nichtbiologischen Substrat wie Silizium abzubilden. Dafür müssten die Abläufe im Gehirn zunächst exakt kartiert werden; anschließend könnten sie in Echtzeit simuliert werden, wobei die Simulation wiederum mit der externen Umgebung verknüpft werden müsste. Doch selbst bei dem um mehrere Größenordnungen weniger komplexen Gehirn der Maus ergeben sich grundlegende Schwierigkeiten. So gibt es bisher zum Beispiel keine Möglichkeit, die biochemischen Vorgänge in annähernd hinreichender Auflösung zu erfassen. Doch Shanahan meint, die Hindernisse für "die Erstellung eines Bauplans für das Mäusegehirn" seien letztlich allein "technischer und nicht konzeptueller Natur". Früher oder später, so glaubt er, werden wir sie überwinden. Und dann wäre der Übergang zur KI auf übermenschlichem Niveau "wohl nahezu unvermeidlich" - einfach, weil sich Experimente zur Leistungssteigerung dann sehr leicht realisieren ließen.

Der zweite, rein technische Ansatz verfolgt die Realisierung einer Künstlichen Intelligenz auf Grundlage selbstlernender Algorithmen, wie sie bereits heute zum Einsatz kommen. Der Trick besteht darin, dass zwei Prozesse ineinandergreifen. Erstens entwickelt das Programm auf Grundlage großer Datensätze ein Modell der Welt, das Aussagen über die Wahrscheinlichkeit zukünftiger Ereignisse erlaubt. Zweitens experimentiert das Programm vor dem Hintergrund dieser Prognosen mit verschiedenen Strategien, um eigenständig herauszufinden, auf welche Art sich das Ergebnis entsprechend einer extern festgelegten Belohnungsfunktion maximieren lässt. Das Programm lernt also selbständig dazu. Doch während wir Menschen über ein weitreichendes intuitives Wissen verfügen und unvorhergesehene Ereignisse daher oft leicht in Zusammenhänge stellen können, ist es schwierig, einer Maschine ein umfassendes Modell der Welt zu vermitteln. Dass sich menschliche Körper anders verhalten als leblose Gegenstände, ist für eine Maschine keineswegs offensichtlich.

Mit einer konkreten Prognose, wann wir eine allgemeine KI auf menschlichem Niveau erschaffen, hält sich Shanahan wohlweislich zurück. Doch er ist überzeugt, dass es uns irgendwann gelingen wird - und ob es nun fünfzig oder dreihundert Jahre dauert, spielt in seinen Augen eigentlich keine große Rolle. In einigen Punkten ist Shanahan wohl zu optimistisch: Seine Überlegungen zur Emulation des menschlichen Gehirns etwa setzen voraus, dass wir die zentralen biochemischen Mechanismen des Gehirns bereits erfasst haben. Und dennoch ist davon auszugehen, dass es in der Neurowissenschaft, vor allem aber in der KI-Forschung, in den kommenden Jahrzehnten bedeutende Fortschritte geben wird.

Die Entwicklung einer allgemeinen Intelligenz auf menschlichem Niveau erscheint vielen Experten heute auf lange Sicht zumindest möglich. Da sie eine beispiellose Zäsur bedeuten würde, ist es sinnvoll, über diese Möglichkeit frühzeitig nachzudenken. Auf absehbare Zeit jedoch dürften näherliegende Fragen dominieren. Wie sollten wir zum Beispiel mit Programmen umgehen, die zwar keine allgemeine Intelligenz besitzen, aber immer genauere Prognosen zum menschlichen Verhalten treffen? Shanahan prognostiziert die Entwicklung einer künstlichen "Umgebungsintelligenz", die verschiedene Körper wie Autos und Staubsauger gleichzeitig bewohnen und uns als eine Art persönlicher Assistent auf Schritt und Tritt begleiten wird. Die Frage aber, wie wir eine solche Intelligenz regulieren sollten, tritt im Text in den Hintergrund.

Ein Defizit ist, dass das Buch die zahlreichen philosophischen Fragen - etwa zur personalen Identität und dem moralischen Status Künstlicher Intelligenzen - nur recht oberflächlich abhandelt. Und in der Diskussion der schwer absehbaren Folgen der Entwicklung einer allgemeinen KI auf übermenschlichem Niveau referiert Shanahan vor allem Bostroms Überlegungen. Trotz dieser Schwächen: Jenen, die sich mit dem Thema bisher wenig auseinandergesetzt haben, gibt Shanahan eine aufschlussreiche und zugängliche Einführung an die Hand.

FRIEDEMANN BIEBER

Murray Shanahan:

"Die technologische

Singularität".

Aus dem Englischen von Nadine Miller.

Matthes & Seitz Verlag, Berlin 2021. 253 S., geb., 20,- [Euro].

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

»Jenen, die sich mit dem Thema bisher wenig auseinandergesetzt haben, gibt Shanahan eine aufschlussreiche und zugängliche Einführung an die Hand.« Friedemann Bieber FAZ - Frankfurter Allgemeine Zeitung 20210618