Es ist ein alter Menschheitstraum, von Mühsal und Not befreit zu sein. Ein Traum, der durch die rasante technologische Entwicklung sowohl zu einer realistischen Perspektive als auch zu einer realen Bedrohung wird, wenn nur einige wenige von diesem Fortschritt profitieren, während er für zu viele mit Arbeitslosigkeit, Abhängigkeit und Armut einhergeht. Zeit, sich die Grundfragen neu zu stellen: Kontrollieren wir die Maschinen oder kontrollieren die Maschinen – und die, denen sie gehören – uns? Was droht uns im Fortschrittswahn verloren zu gehen? Wie können wir eine gerechte Arbeitswelt und ein gutes Leben für alle organisieren? Robert Skidelsky erzählt kenntnisreich die wechselhafte Beziehung von Mensch und Maschine: Wie haben führende Denker, von der Antike bis ins 21. Jahrhundert, über den technischen Fortschritt – von den ersten Werkzeugen bis zur künstlichen Intelligenz – und seine Auswirkungen auf die Menschheit nachgedacht? Ein grundlegendes Buch zu den drängenden Fragen unserer Zeit, das uns zeigt, auf was wir jetzt achten müssen, damit wir unsere Zukunft in der eigenen Hand behalten.
Perlentaucher-Notiz zur F.A.Z.-Rezension
Der "als große Wurf" angelegte Band von Robert Skidelsky, der sich mit der Beziehung von Mensch und Maschine beschäftigt, kann den Rezensenten Friedemann Bieber nicht überzeugen. Das Buch biete zwar den Mehrwert, dass Skidelsky den Blick auf das Verhältnis Mensch-Maschine in einem großen historischen Zusammenhang weitet, vom frühen Mesopotamien über Heidegger zum Silicon Valley, lobt der Kritiker. Doch die Fragen, die sich für die heutige Zeit ergeben, beantworte der Autor nicht. Weder die Frage, wie KI reguliert werden sollte noch was der Mensch tun soll, wenn die KI offensichtlich intelligenter geworden ist als er, moniert der Kritiker. Außerdem werden Positionen anderer Philosophen, zum Beispiel Toby Ords, im Buch verkürzt dargestellt, bemerkt Bieber. Dass das Buch dann nicht mit der im Buch kaum diskutierten Vision für ein zukünftiges Verhältnis von Mensch und Maschine ende, sondern der Autor sich auf die These versteife, "dass wir so dumm werden wie Roboter", enttäuscht den Kritiker.
© Perlentaucher Medien GmbH
© Perlentaucher Medien GmbH
Von den Zivilisationen Mesopotamiens bis zu heutigen Tech-Milliardären: Robert Skidelsky sondiert die Beziehung zwischen Mensch und Maschine
Der Triumph der Maschinen kann mitunter unaufhaltsam erscheinen. Die besten Schachspieler: längst Maschinen. Der Rekordhalter im Lösen des Rubik's Cube: ein Roboter (0,305 Sekunden). Und jene neuronalen Netzwerke, die KI-Modellen wie Claude, Gemini und ChatGPT zugrunde liegen, werden nicht mehr programmiert, sondern "wachsen" heran. In immer umfassenderen Trainingsläufen optimieren sie ihre Fähigkeit, Muster zu erkennen, und zeitigen dabei unerwartete kognitive Fertigkeiten. Es ist folglich nicht übertrieben, zu fragen: Werden wir bald durch Maschinen ersetzt?
Robert Skidelsky, britischer Wirtschaftshistoriker und emeritierter Professor für Politische Ökonomie an der University of Warwick, stellt diese Frage ins Zentrum seines neuen Buches. Skidelsky sorgte zuletzt mit Verbindungen zu dem Kreml nahestehenden Unternehmen und Thinktanks für Schlagzeilen, wurde deswegen 2023 sogar vorübergehend aus dem House of Lords suspendiert. Als Autor ist er insbesondere für seine dreiteilige Biographie über John Maynard Keynes bekannt. Dessen Essay "Economic Possibilities for Our Grandchildren" (1930) nennt Skidelsky denn auch als Inspiration für sein neues Buch. Keynes prophezeite in dieser Schrift eine Zukunft, in der uns Maschinen die meisten mühsamen Tätigkeiten abnehmen und wir Menschen nur noch drei Stunden am Tag arbeiten müssen. Skidelskys Blick ist diagnostischer - und sorgenvoller.
Sein Buch teilt sich in drei Abschnitte. Der erste Teil zeichnet in groben Zügen nach, wie sich die Mechanisierung der Arbeit historisch vollzogen hat. Hier schreibt Skidelsky als Wirtschaftshistoriker; so argumentiert er etwa, dass eine klare Regelung der Eigentumsrechte und des Erbrechts ein wichtiger Wegbereiter für die Industrialisierung war - indem sie Anreize für Investitionen schuf und die Akkumulation von Kapital förderte. Der zweite Teil stellt das Streben nach Perfektion ins Zentrum. Skidelsky sieht darin die Triebfeder für technologischen Fortschritt, verkörpert in der Rolle der Naturwissenschaftler und Ingenieure. Zugleich verortet er das Streben nach der immer weiteren Perfektionierung des Menschen selbst im Geiste der Aufklärung und in einer Abwendung von Gott. Der dritte Teil geht auf die Entwicklung künstlicher kognitiver Fähigkeiten ein, von mechanischen Rechenmaschinen aus dem neunzehnten Jahrhundert bis zu heutigen KI-Programmen wie Alphazero und ChatGPT.
Skidelskys Buch ist als großer Wurf angelegt, als umfassende und kritische Erzählung über das menschliche Verhältnis zu Maschinen. Von der Dynamik des technologischen Fortschritts in den frühen Zivilisationen Mesopotamiens bis zu den transhumanistischen Visionen der Tech-Milliardäre aus dem Silicon Valley, von Mary Shelleys "Frankenstein" bis zu Heideggers Technikkritik: Skidelsky versucht, alles abzudecken und dabei die Perspektiven der Wirtschaftsgeschichte, Literatur und Philosophie zusammenzubringen.
Seinem eigenen Anspruch wird der Autor jedoch nicht gerecht. Sein Buch wirft eine in Zeiten des rapiden und unwägbaren Fortschritts Künstlicher Intelligenz drängende Frage auf: Wie wollen wir unser Verhältnis zu Maschinen gestalten? Statt diese Frage ab ovo zu diskutieren, zeigt Skidelsky auf, wie Menschen mit ihr seit Jahrhunderten gerungen haben. Das ist lobenswert. Doch das Buch hat drei zentrale Schwächen.
Erstens mangelt es dem Text an einer klaren, gut begründeten These. Skidelsky schreibt, er sehe im Angesicht zunehmend mächtigerer Maschinen nur einen sinnvollen Weg vorwärts: eine Rückbesinnung auf eine Weltanschauung, die Wissenschaft und Religion zusammenbringe und dem Streben nach Perfektion Grenzen setze. Was damit genau gemeint ist und wie uns eine solche Weltanschauung etwa im Rahmen eines geopolitischen Wettlaufs um die Entwicklung Künstlicher Intelligenz helfen könnte, bleibt jedoch im Dunkeln.
Zweitens bleibt Skidelskys Erzählung sprunghaft und mitunter oberflächlich. In weiten Teilen referiert das Buch bekannte Motive aus Geschichte, Literatur und Philosophie. In den besseren Kapiteln bringt es diese in erhellender Weise zusammen. Doch deren Anordnung lässt den Spannungsbogen immer wieder abreißen. So folgt auf ein Kapitel zur Frage, warum die wissenschaftliche Revolution in Europa ihren Ausgang nahm, ein Kapitel zu sogenannten "Bullshit Jobs". Und dort, wo Skidelsky die Positionen anderer kritisiert, offenbart er wiederholt ein unzureichendes Verständnis. Der Oxforder Philosoph Toby Ord beispielsweise wird in Skidelskys Erzählung zum schemenhaften Utilitaristen, der die Menschen nur als Schmerz-und-Freude-Prozessoren versteht - eine in Skidelskys Augen absurde Auffassung. Ords Position ist jedoch deutlich komplexer.
Drittens mangelt es Skidelsky an einem Verständnis der Herausforderungen Künstlicher Intelligenz. Die Defizite beginnen bereits bei grundlegenden Begriffen. So folgert Skidelsky aus der Beobachtung, dass menschliche Intelligenz eng mit Bewusstsein verknüpft ist, die eigentliche Frage sei, ob es für einen Roboter möglich ist, Bewusstsein zu entwickeln. Begrifflich jedoch sind Intelligenz (etwa die Fähigkeit, effektiv gesetzte Ziele zu erreichen) und Bewusstsein (etwa ein Verständnis über die eigene Situation) klar getrennt - und es ist nicht offensichtlich, dass sie bei Maschinen zusammenfallen müssen.
Vor allem aber missversteht Skidelsky das zentrale Problem im Umgang mit mächtigen Maschinen. Für ihn besteht es darin, sich auf Regeln für diese Maschinen zu einigen. Dabei übersieht er zwei Probleme. Erstens ist unklar, wie wir garantieren können, dass KIs unsere Regeln (und Wertesysteme) richtig interpretieren. Zweitens begegnen wir jener Herausforderung, die Alan Turing bereits zur Mitte des zwanzigsten Jahrhunderts benannte (und für unlösbar befand): Wie können wir sicherstellen, dass Maschinen, die uns kognitiv in allen Bereichen überlegen sind, nicht selbst die Kontrolle übernehmen?
Welche Rolle bliebe dem Menschen also in einer Welt, in der Maschinen alles besser könnten? Zwar referiert Skidelsky Überlegungen anderer zu dieser Frage, ihre grundlegende Bedeutung begreift er jedoch nicht. Stattdessen klingen kulturkritische Gedanken an, etwa die Sorge um einen "epistemologischen Nihilismus westlicher Gesellschaften". So versteigt sich Skidelsky zu der These, die Gefahr sei weniger, dass Roboter so intelligent werden wie wir, als vielmehr, dass wir so dumm werden wie die Roboter.
Diese platte Formulierung verstellt den Blick auf die tatsächlich drängenden Fragen. Mindestens drei zentrale Fragen lassen sich dabei unterscheiden. Eine im weiteren Sinne ethische: Was ist unsere Vorstellung einer erstrebenswerten Zukunft für die Menschheit, und wie sollte diese die Regulierung von Technologie leiten? Eine technische: Wie können wir sicherstellen, dass wir die Kontrolle über immer mächtigere Maschinen behalten? Und eine politische: Wie können wir die technologische Entwicklung effektiv und gerecht gestalten? Aktuell treibt eine kleine Gruppe von Forschern und Investoren die Entwicklung allgemein fähiger, Künstlicher Intelligenz voran - gewissermaßen auf gut Glück und ohne eine klare Antwort auf nur eine dieser Fragen zu formulieren. Skidelsky hat folglich recht, wenn er eine gesellschaftliche Debatte fordert; mit seinem Buch vergibt er jedoch die Chance, die Herausforderungen klar zu benennen und konstruktiv zu diskutieren. FRIEDEMANN BIEBER
Robert Skidelsky: "Werden wir ersetzt?"
Vom Fortschrittswahn zu einer Ökonomie des gerechten Lebens.
Aus dem Englischen von Enrico Heinemann. Verlag Antje Kunstmann, München 2024. 400 S., geb., 28,- Euro.
Alle Rechte vorbehalten. © Frankfurter Allgemeine Zeitung GmbH, Frankfurt am Main.