Kate Crawford

Atlas der KI

Die materielle Wahrheit hinter den neuen Datenimperien
Übersetzung:Lachmann, Frank

• Gebundenes Buch

Produktbeschreibung

Weder künstlich noch intelligent - eine kritische Analyse der KI-Industrie Wir tendieren dazu, künstliche Intelligenz als eine wundersame und körperlose Form maschineller Klugheit zu betrachten. Von der preisgekrönten Wissenschaftlerin Kate Crawford lernen wir hingegen, dass KI in Wahrheit weder künstlich noch intelligent ist, sondern in ihrer materiellen Wirklichkeit auf Ressourcenausbeutung und Machtkonzentration hinausläuft. Crawford nimmt uns mit auf eine faszinierende Reise zu Lithiumminen und Klickfabriken, zu automatisierten Arbeitsplätzen und riesigen Datenarchiven, zu KITrainingscamps und zum algorithmischen Kriegsführungsteam des Pentagon. Auf diese Weise zeichnet sie einen Atlas der künstlichen Intelligenz, der die verschiedenen Bereiche ihrer konkreten Realität kartiert, um unser kritisches Auge zu schulen. Gestützt auf ein Jahrzehnt originärer Forschung zeigt Crawford, dass KI in erster Linie eine Technologie der Extraktion ist - der Abschöpfung von Mineralien, billiger Arbeitskraft und einer unermesslichen Anzahl von Daten. Das planetare Netzwerk der KI schädigt unsere Umwelt massiv, vertieft soziale Ungleichheiten und bedroht demokratische Prinzipien. Crawfords Buch liefert uns eine dringliche Mahnung, was auf dem Spiel steht, wenn große Unternehmen und staatliche Institutionen KI nutzen, um die Welt umzugestalten. * "Ein wertvolles Korrektiv für den Hype um KI und eine nützliche Gebrauchsanweisung für die Zukunft." John Thornhill, Financial Times * Ein neuer Blick auf das, was künstliche Intelligenz in Wirklichkeit ist * Aus welchen Materialen bestehen KI-Systeme, und wo kommen die her? * Welche Formen menschlicher Arbeit, welche Wissenssysteme und Machtverhältnisse müssen dabei am Start sein? * Crawford zeigt: KI ist die ausbeuterische Industrie des 21. Jahrhunderts * KI hat in ökologischer, sozialer und politischer Hinsicht verheerende Wirkungen

Produktdetails

• Verlag: Beck
• Originaltitel: Atlas of AI. Power, Politics, and the Planetary Costs of Artificial Intelligence
• 2. Aufl.
• Seitenzahl: 336
• Erscheinungstermin: 21. August 2024
• Deutsch
• Abmessung: 218mm x 143mm x 33mm
• Gewicht: 505g
• ISBN-13: 9783406823336
• ISBN-10: 3406823335
• Artikelnr.: 70169965

Autorenporträt

Kate Crawford ist eine international führende Wissenschaftlerin für Künstliche Intelligenz und ihre Auswirkungen. Sie ist Professorin an der University of Southern California in Los Angeles, Forschungsleiterin bei Microsoft Research in New York und war die erste Gastprofessorin für KI und Justiz an der École Normale Supérieure in Paris. Ihr Buch "Atlas of AI" wurde mehrfach ausgezeichnet, in mehr als zehn Sprachen übersetzt und vom New Scientist und der Financial Times zu einem der Bücher des Jahres gekürt. Das Time Magazine hat sie in die TIME100-Liste als eine der einflussreichsten Personen im Bereich KI aufgenommen.

Inhaltsangabe

Einleitung
1 Erde
2 Arbeit
3 Daten
4 Klassifizierung
5 Affekt
6 Staat
Schluss: Macht
Coda: Weltraum
ANHANG
Danksagung
Bibliografie
Anmerkungen
Bildnachweis
Register

Rezensionen

Perlentaucher-Notiz zur F.A.Z.-Rezension

Rezensent Günter Hack ist dankbar für das Buch der KI-Kennerin Kate Crawford. Die Autorin zeigt darin, wie sehr die angeblich so losgelöste KI-Technologie im fossilen Zeitalter verankert und abhängig ist von Rohstoffen, Energie und einer Heerschar von Lohnsklaven. Hack lernt, wie sich das Missverständnis von der autonomen Maschine von der Schach spielenden Puppe über Chatbots bis zu ChatGPT zieht. Auf elegante Weise vermittelt ihm Crawford die Geschichte der Datensätze zur Optimierung der KI-Algorithmen und zeigt, inwiefern diese Kategorien und Diskriminierungen vergangener Zeiten "mitschleppen". Dass der Band im Orginal bereits 2021 erschien, macht Hack nur bewusst, wie sich die im Buch so faktenreich und konsistent angesprochenen Probleme weiter verschärft haben.

© Perlentaucher Medien GmbH

Süddeutsche Zeitung | Besprechung von 09.09.2024

Wo wir Feenstaub
schürfen
Je selbstverständlicher künstliche Intelligenz zum
Leben gehört, desto weniger erkennen wir das globale
Netz ausbeuterischer Lieferketten und unsichtbarer
Arbeit dahinter. Eine neue Weltlandkarte muss her.
VON ANDRIAN KREYE
Es sind Bücher, die die Technologiedebatten der Gegenwart antreiben, intellektuelle Leuchttürme in den Brandungen der sozialen Netzwerke, an denen sich die Wellen der Empörung und im besten Falle Erkenntnis brechen. Deswegen kann man mit Blick auf die Neuerscheinungen jetzt schon sagen, dass sich die Debatten um künstliche Intelligenz und die Tech-Welt in diesem Herbst deutlich verschärfen werden.
Da analysiert der Medienwissenschaftler David Golumbia den politischen Rechtsruck der Technikwelt in „Cyberlibertariansm“. Die Informatiker Sayash Kapoor und Arvind Narayanan stellen in „AI Snake Oil“ die Frage, was künstliche Intelligenz denn nun wirklich kann und vor allem, was nicht. Auch der Superbestseller-Historiker Yuval Noah Harari steigt mit seinem neuen Buch „Nexus“ in die Tech-Debatten ein, das am Dienstag dieser Woche erscheint. Der erzählt in seinem bewährten „Big History“-Bogen die Geschichte der Informationsnetzwerke von der Steinzeit bis in die digitale Ära.
Sehr viel bodenständiger geht die KI-Forscherin Kate Crawford vor, deren neues Buch gerade auf Deutsch erschienen ist. Um gleich mal mit einem Klassiker der digitalen Metaphern einzusteigen: Ihr„Atlas der KI“ ist genau die „Red Pill“, die zu den aktuellen Zweifeln an den Verheißungen des KI-Zeitalters passt. Im Film „The Matrix“ hat der Held Neo die Wahl. Entweder eine blaue Pille zu schlucken und zufrieden in der Scheinwelt weiterzuleben, die die allmächtige KI den Menschen vorgaukelt, oder eben mit der roten Pille in die Abgründe hinter der Illusion einzutauchen.
Als Sinnbild ist die Matrix schon seit 25 Jahren geläufig. Der digitale Alltag bestätigt das. Gerade mit zwei künstlichen Intelligenzen unterhalten: Geschmeidig ist das Wort, das einem da in den Kopf kommt. Frage, Antwort, inzwischen auch hin und wieder mit Quellenangaben. Das passiert alles in Sekunden mit Finger tupfen auf poliertem Glas. Geschmeidig ist ein viel schöneres Wort, als der technische Fachbegriff des „frictionless use“, der reibungslosen Nutzung, die das eigentliche Ziel sämtlicher digitaler Technologien ist. Zumindest seit die unerschöpflichen Forschungsgelder des Kalten Krieges von den Investitionen aus Industrie und Finanzwirtschaft abgelöst wurden und man die Maschinen mit der immer höheren Maschinenintelligenz an die Massen verkaufen musste. Die Regel der Technologiegeschichte, dass der Aufwand hinter einer Funktion immer größer wird, je einfacher und billiger die Bedienung ist, stört da nur das Bild vom Schillern der digitalen Welten. Gerade deswegen – ein Atlas für die Abgründe.
Die Form ist schon die halbe Botschaft. Ähnlich wie ein Atlas aus analogen Schultagen fächert Kate Crawford die digitale Welt in Schichten auf. Sie beschreibt und besucht lauter weiße Flecken des öffentlichen Bewusstseins. Kate Crawford gelingt das erzählerisch auch deswegen so gut, weil sie eigentlich aus der Kunst kommt. Die Australierin hat in den Neunzigern drei Alben mit ihrer Band B(if)tek veröffentlicht, sie gestaltete Ausstellungen im Museum of Modern Art in New York und im Victoria & Albert in London. Als Wissenschaftlerin gehört sie schon länger zu den fundiertesten Kritikerinnen der digitalen Welten. Ihr Portfolio der Fellowships und Gastprofessuren macht das deutlich. École Normale Supérieure in Paris, New York University, University of Southern California in Los Angeles, Leitung des Forschungsprojektes Knowing Machines.
Bekannt wurde sie mit einem Projekt, das sie gemeinsam mit dem Fotografen Trevor Paglen für die Mailänder Fondazione Prada entworfen hat. In der Ausstellung „Training Humans“ konnte man ein beliebiges und vor allem eigenes Porträtfoto eingeben, das dann mithilfe der wichtigsten Datenbank für Gesichtserkennung, Imagenet, kategorisiert wurde. Das war ein großer Spaß, weil man da mit wenigen Klicks mittendrin war im Sumpf der Vorurteile, die KI-Anwendungen immer wieder verstärken. Für Kategorien wie Verbrecher und Rassist, Trinker und Abnormaler, aber auch Krankenschwester und Mutter orientierten sich die Algorithmen ganz offensichtlich an Weltbildern voller Vorurteile.
Ihren Atlas beginnt Crawford gleich im ersten Kapitel mit dem „geologischen Blick“. Hinter jedem Endgerät steht eine Lieferkette von den Abbaugebieten der seltenen Erden bis in die Mikrostrukturen der Smartphones, Rechner und KI-Systeme. Denn hinter der Unendlichkeit des digitalen Raums verbergen sich sehr endliche Rohstoffe für die Bauteile, die KI am Laufen halten. Da tun sich hinter den Nutzeroberflächen die Abgründe ganz buchstäblich auf. Minen, Schwefelbäder und Sondermüll, der in Flüssen und Bergen landet. Hinter den Bekenntnissen zur „sauberen Technologie“ der Digitalfirmen lauern Umweltkatastrophen und Raubbau.
Das mit der Seltenheit ist ein Drama, das nur wenigen bewusst ist. 70 Prozent aller seltenen Erden kommen aus der Bayan-Obo-Mine in der Inneren Mongolei, die zu China gehört. Aus dem überhaupt 95 Prozent der unersetzlichen Werkstoffe stammen. Mit ein paar Ausnahmen. 90 Prozent des ebenso unerlässlichen indonesischen Zinns finden sich auf zwei kleinen Inseln vor der Küste Sumatras. Dann reist Crawford noch in die Mojave-Wüste, wo das Lithium für wiederaufladbare Batterien gewonnen wird und wo die Vorräte in 40 Jahren zur Neige gehen. Sonst gibt es Lithium nur noch in Australien, Südamerika und vor allem in – richtig – China.
Der Raubbau im Gelände findet bei ihr etwas später eine Parallele im Raubbau der Daten. Auch die flirren nicht wie Feenstaub in die KI-Systeme, sondern werden zu einem Großteil von Heeren unterbezahlter Zuarbeiter eingegeben und mit Etiketten versehen. Erst dann wird aus ihnen der Rohstoff, der für die Einzelnen wertlos, für die Digitalkonzerne aber so kostbar ist. Mithilfe der Algorithmen verarbeiten sie die Myriaden der Datenpunkte in Ozeane der Informationen, die sie auswerten und an jene verkaufen, die damit ihre Manipulationsmaschinen am Laufen halten. Damit die Menschen das schauen, kaufen, wählen, was sie ihnen vorsetzen.
Tief schürfen diese Datengräber. Bis in die Emotionen hinein kann KI jeden Menschen in solche Datenpunkte zerlegen. Die Prinzipien des „affective computing“ orientieren sich dabei an höchst zweifelhaften Messmethoden aus dem 19. und 20. Jahrhundert wie die Schädelvermessung der frühen Rassentheoretiker und Paul Ekmans Theorie von den Basisemotionen. All das soll in der Mustererkennung der KI nun zu wissenschaftlichen Parametern rehabilitiert werden. Wie Firmen, Polizeibehörden und Geheimdienste auch damit Vorurteile in der Gesellschaft zementieren und Fehlschlüsse ziehen, erinnert dann deutlich an die Sondermüllhaufen des ersten Kapitels.
„Extraktivismus“ ist das Schlagwort, das die Kehrseite der KI-Revolution auf den Punkt bringt. Der Abbau von Rohstoffen, Energie, Arbeitskraft, Daten und soEmotionen Mechanismus, den der Technikphilosoph Lewis Mumford in den späten Sechzigerjahren „Megamaschine“ nannte. Damit definierte er die Tatsache, dass jedes zentrale System, egal welcher Größe, das Ergebnis der Arbeit vieler Einzelner und dem Verbrauch entsprechender Materialien ist. Die Weltwirtschaft ist eine Megamaschine, Produktionskreisläufe, Geopolitik und eben auch die digitale Welt.
Crawford ist nicht die erste Forscherin, die sich mit diesen Themen beschäftigt. Die Wirtschaftsinformatikerin Sarah Spiekermann hat die geopolitischen Gefahren erforscht, die hinter den Nadelöhren der Rohstoffgewinnung für die digitalen Technologien lauern. Der Kommunikationswissenschaftler Ulises Mejias und der Kultursoziologe Nick Couldry haben die Linien des Extraktivismus von den Frühzeiten des Kolonialismus bis in die digitale Gegenwart gezogen.
Alles zu viel rote Pille? Doch lieber ein paar Tupfer auf die polierte Glasscheibe? Was denn die größten Probleme der KI-Technologie sind, lautet die Frage an die KI. Die innerhalb von Sekunden zehn Vorschläge macht. Den Verlust der Privatsphäre zum Beispiel, den Mangel an Transparenz und Fairness, ethische Probleme und die Schwierigkeit der Regulierung. Nur ein Punkt deckt sich mit Crawfords Atlas der KI, die Auswirkungen auf die Umwelt. Das ist kein böser Wille, weil künstliche Intelligenz keinen Willen hat, auch kein kritisches Denken und schon gar keine Ideen. Sie spiegelt nur, was im kollektiven Bewusstsein steckt. Somit wäre der Bedarf an Debatte auch vom Algorithmus bestätigt.
Die international führende KI-Forscherin Kate Crawford.
Foto: Cath Muscat
Kate Crawford:
Atlas der KI. Die
materielle Wahrheit hinter den neuen
Datenimperien.
Aus dem Englischen von Frank Lachmann.
C. H. Beck, München 2024. 336 Seiten,
32 Euro.
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de