Andere Kunden interessierten sich auch für
![Hello World]( "Hello World")
Hello World9,95 €![How the World Really Works]( "How the World Really Works")
How the World Really Works11,99 €![What If? 2]( "What If? 2")
What If? 210,99 €![The Road to Conscious Machines]( "The Road to Conscious Machines")
The Road to Conscious Machines10,99 €![The Genesis Quest]( "The Genesis Quest")
The Genesis Quest9,49 €![Reality Is Not What It Seems]( "Reality Is Not What It Seems")
Reality Is Not What It Seems9,49 €![How to Speak Science]( "How to Speak Science")
How to Speak Science16,99 €
Hannah Fry is an Associate Professor in the mathematics of cities from University College London. In her day job she uses mathematical models to study patterns in human behaviour, and has worked with governments, police forces, health analysts and supermarkets. Her TED talks have amassed millions of views and she has fronted television documentaries for the BBC and PBS; she also hosts the long-running science podcast, ¿The Curious Cases of Rutherford & Fry¿ with the BBC.
Was Algorithmen können und dürfen
Die britische Mathematikerin Hannah Fry will mit ihrem Buch "Hello World" erklären, was Algorithmen tatsächlich können und wie sie unser Leben verändern. Auf schnell zu lesenden 272 Seiten gelingt ihr das recht gut, wobei ihr auch mal ein Fehler unterläuft: So ist die Aussage falsch, dass in Berlin "die Menschenmengen in den Bahnhöfen mit Algorithmen zur Gesichtserkennung überwacht werden". Tatsächlich gab es bislang ein einziges Pilotprojekt an einem einzigen Bahnhof (Südkreuz) und das auch nur ein Jahr lang.
Anders sieht es in den Vereinigten Staaten von Amerika aus: Dort werden Algorithmen teilweise großflächig eingesetzt, auch bei der Strafzumessung: "Ziel ist es, die Wahrscheinlichkeit zu berechnen, dass ein Angeklagter innerhalb von zwei Jahren wieder straffällig wird. Bei dieser Aufgabe erreichte der eingesetzte Algorithmus eine Präzisionsrate von 70 Prozent." Das würde in Europa nicht ausreichen, um als seriös zu gelten, und führt in den Vereinigten Staaten zu kuriosen Ergebnissen: So hatte der Angeklagte Christopher Drew Brooks als 19 Jahre alter Mann einvernehmlichen Sex mit einer Minderjährigen. Staatsanwaltschaft und Verteidiger einigten sich auf ein geringes Strafmaß, da beide meinten, dass eine lange Haftstrafe nicht die beste Vorgehensweise sei.
Der Richter ignorierte den Deal und vertraute dem Algorithmus, der eine längere Haftzeit empfahl. Der Algorithmus berücksichtigte dabei das Alter bei der Berechnung der Rückfallquote. Wäre Brooks 36 Jahre alt gewesen (und das Mädchen weiterhin minderjährig), hätte der Algorithmus empfohlen, ihn überhaupt nicht ins Gefängnis zu schicken.
Andere Algorithmen wollen erkennen können, wie hoch das Demenzrisiko einer Person ist, und zwar anhand von Aufsätzen, die jemand im Alter von 22 Jahren geschrieben hat. Dafür wurde ein Test mit einigen Hundert Nonnen in Kentucky gemacht, die älter als 70 Jahre alt waren. Da keine von ihnen Kinder hatte, rauchte oder trank, konnten die Wissenschaftler viele Faktoren ausschließen, die im Verdacht stehen, das Risiko einer Alzheimer-Erkrankung zu erhöhen.
Zudem hatten alle Nonnen einen ähnlichen Lebensstil und gleichen Zugang zu ärztlicher Versorgung. Im Alter von 22 Jahren hatte jede von ihnen einen Aufsatz geschrieben, weshalb sie in das Kloster eintreten wolle. Hier ein Satzbeispiel einer Nonne, die bis an ihr Lebensende über hervorragende kognitive Fähigkeiten verfügte: "Nachdem ich die achte Klasse beendet hatte, wollte ich Aspirantin in Mankato werden, aber ich selbst hatte nicht den Mut, meine Eltern um Erlaubnis zu bitten, also tat Schwester Agreda es für mich, und sie gaben bereitwillig ihre Zustimmung." Zum Vergleich dazu ein Satz einer Nonne, deren Erinnerungsvermögen in ihren letzten Lebensjahren stetig abnahm: "Nachdem ich die Schule verlassen hatte, arbeitete ich bei der Post."
Neunzig Prozent der Nonnen, die Alzheimer bekamen, hatten als junge Frauen nur geringe sprachliche Fähigkeiten. "Interessant ist, dass sich unauffällige Hinweise auf unsere zukünftige Gesundheit in den kleinsten Datenfragmenten verbergen können, wo man sie nicht erwartet - und zwar viele Jahre bevor die ersten Symptome einer Krankheit auftreten", schreibt Fry: "Vielleicht werden Algorithmen eines Tages sogar in der Lage sein, Anzeichen für Krebs aufzuspüren, Jahre bevor Ärzte sie wahrnehmen."
Fry nennt viele weitere Beispiele und erklärt auch, weshalb es Algorithmen so schwerfällt, vorab zu erkennen, ob ein Film populär wird. (Es fehle an einem objektiven Maßstab für Qualität.) Vor allem aber schreibt Fry: "Algorithmen machen Fehler. Sie sind ungerecht." Gleichzeitig seien sie unverzichtbar und oft hilfreich. Es brauche eine sinnvolle Regulierung. Und genau dazu hat Mario Martini von der Deutschen Universität für Verwaltungswissenschaften Speyer nun Vorschläge vorgelegt.
In seinem Werk "Blackbox Algorithmus" entwirft er wichtige Grundlagen einer Regulierung Künstlicher Intelligenz. Das Buch ist aus dem Drittmittelprojekt "Algorithmenkontrolle im Internet der Dinge" hervorgegangen, das das Bundesjustizministerium gefördert hat. Martini schreibt, dass nur 10 Prozent der Deutschen wissen, wie Algorithmen funktionieren. Es handele sich dabei um "Schritt-für-Schritt-Anleitungen, um ein (mathematisches) Problem strukturiert zu lösen." Zu den häufigsten Aufgaben gehöre es, in Datenmengen zu suchen und Daten zu sortieren. Ihre Treffsicherheit gründe aber nicht allein auf fortgeschrittener Mathematik und logischen Schlüssen. Algorithmen codierten auch die subjektiven Vorstellungen ihrer Schöpfer. Sie seien daher nur so diskriminierungsfrei wie die Menschen, die sie entwickeln.
Martini fordert eine staatlich initiierte "Stiftung Datentest" und eine "Datenschutzampel", die Verbraucher über mögliche Gefährdungen ihrer Privatsphäre informiert. "Um das Innovationspotential nicht auszubremsen, sollte der Gesetzgeber seine regulatorischen Zügel aber auch nicht zu straff anziehen", fordert der Jurist. So seien generelle Transparenzpflichten, etwa den Quellcode offenzulegen, nicht zielführend. Der Gesetzgeber müsse - ähnlich wie im Medizinprodukte-Recht -- ein gestuftes, nach Gefährdungsgrad ausdifferenziertes Risikoklassensystem entwickeln, um die regulatorischen Vorgaben "einzelfallspezifisch zu konkretisieren". Dazu macht Martini viele gute Vorschläge, die neben präventiven Maßnahmen wie Transparenzanforderungen, begleitende Kontrollen mit Mitwirkungspflichten und nachträglicher Haftung auch eine regulierte Selbstregulierung umfasst.
All das könne nur europaweit geschehen. "Im Idealfall avancieren klare unionale Standards zum Standortvorteil, um eine frühzeitige, rechtssichere und ethisch vertretbare Wertschöpfung mit digitalen Technologien sicherzustellen."
JOCHEN ZENTHÖFER.
Hannah Fry: Hello World. C.H. Beck, München 2019. 272 Seiten. 19,95 Euro.
Mario Martini: Blackbox Algorithmus. Springer, Berlin 2019. 400 Seiten. 109,99 Euro.
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main
Maschine
Hannah Fry erklärt, was
Algorithmen können
Im Weltraum wäre man womöglich nicht allzu überrascht, auf Darth Vader und Luke Skywalker aus „Star Wars“ zu treffen – in einem Buch einer Mathematikerin über Algorithmen ist man es durchaus. Später folgen Auftritte von Lady Gaga und Kim Kardashian. Auf Zahlen und Formeln hingegen wartet man vergeblich. Hier nimmt jemand die Vermittlungsaufgabe einer besonders abstrakten Wissenschaft an die größere Öffentlichkeit zugleich ernst und mit Humor. Hannah Fry, außerordentliche Professorin am University College London, forscht angewandter, als viele sich das bei Mathematik vorstellen würden. So hat sie etwa herausgefunden, dass „die Wahrscheinlichkeit, dass in einem Haus eingebrochen wird, höher ist, wenn das Haus an einer Straße steht, die ein Einbrecher regelmäßig benutzt“. Solche Ergebnisse sind Puzzleteile, die verwendet werden können, um Softwareprogramme für die Kriminalitätsbekämpfung zu entwickeln – sei es, um Anhaltspunkte dafür zu haben, wo als nächstes ein Verbrechen stattfinden könnte oder dafür, nach einem Verbrechen einen Täter ausfindig zu machen.
Software besteht aus Algorithmen und was Algorithmen sind, erklärt Fry zu Anfang von „Hello World“ im Plauderton, der schon im Titel anklingt, kurz und knapp: Anleitungen zur schrittweisen Erfüllung von spezifischen Aufgaben. Genauer sind es mathematische Objekte, die mathematische Operationen in Computercodes umwandeln, sodass Daten der realen Welt verarbeitet werden können. Dabei können vier Arten von Aufgaben erfüllt werden: Priorisierung (eine Rangliste anlegen), Klassifizierung (in Gruppen nach Kategorien einteilen), Kombination (Verbindungen finden) und Filterung (Relevantes heraussuchen). Schließlich gibt es, grob gesprochen, zwei Weisen, wie Algorithmen vorgehen: regelbasiert, also fest programmiert, oder selbstlernend, das heißt, sie werden auf Ziele hin trainiert, für die sie den besten Weg selbst finden müssen.
Die zweite Variante von Algorithmen als künstliche Intelligenz zu bezeichnen, hält Fry für irreführend. Angemessener sei es, von revolutionärer Computerstatistik zu sprechen. Diese nüchterne Einstellung passt gut zur gelassenen Haltung dieses Buches gegenüber einem Thema, das derzeit sonst für große Aufregung sorgt. Selbst die Versprechen von autonomen Fahrzeugen sind ihrer Meinung nach auf absehbare Zeit überzogen. Das heißt nicht, dass Fry keine Probleme in der Verwendung von Algorithmen sehen würde, aber diese sind klar umrissen, keine großen Dystopien.
Neue Methoden und Möglichkeiten bringen neue Fragen der Regulierung mit sich, das ist alles. Eine Reihe solcher Fragen veranschaulicht Fry anhand einer Fülle von ausführlichen (meist einschlägig bekannten) Anekdoten aus den Bereichen der Datensammlung, der Justiz, der Medizin, der Automobilität, der Kriminalität und schließlich der Kunst. Aufschlussreich wird es an den Stellen, an denen die eigentlich mathematische Dimension der Problematik herausgearbeitet wird. Hierbei kommen auch Vader und Luke ins Spiel. Mit ihnen veranschaulicht Fry falsch-negative Prognosen (die gravierende schlechte Folgen haben) und falsch-positive (die weniger gravierende Folgen haben) und warum man keine perfekt fairen Prognose-Algorithmen entwickeln kann.
Dies führe etwa zu der bereits vielfach kritisierten Diskriminierung schwarzer Straftäter bei der computergestützten Entscheidung über ihre Freilassung auf Kaution in den USA. Das Programm „PredPol“ zur Vorhersage von Verbrechen nennt Fry die Kim Kardashian der Algorithmen und Lady Gaga soll helfen, den Satz von Bayes zu verstehen. (Wie würden Sie vorgehen, wenn Ihr Gegenüber im Restaurant behaupten würde, am Tisch hinter Ihnen säße Lady Gaga? Sie würden all Ihr Wissen über Lady Gaga, dieses Restaurant und andere Weltumstände heranziehen, um zu beziffern, wie wahrscheinlich es ist, dass diese Behauptung zutrifft. Ein vergleichbares Vorgehen biete der Satz von Bayes in mathematischer Form.)
Dünn sind die Analysen da, wo es um normative Bewertungen geht oder bei komplexeren Begriffen des sozialen Zusammenlebens. Personalisierte Werbung, die einen im Internet verfolgt, und ähnliches hält sie für „gruselig“, medizinische Daten zu veröffentlichen für „instinktiv“ problematisch. Dem Budget-Tool einer Versicherung spricht sie „Macht“ über Bezugsberechtigten zu, obwohl seine Anwendung ganz unter der Kontrolle der Versicherungsleute steht.
Doch abschließend zu bewerten oder eindeutige Lösungen vorzuschlagen, ist ohnehin nicht das Anliegen der Autorin. Viele Kapitel enden mit aufrichtigen Fragen. Diese zu beantworten sei eine drängende Aufgabe für uns Menschen, um endlich solche Gesellschaften und soziale Praktiken zu haben, die wir haben wollen. Dafür, so deutet Fry optimistisch an, wäre der richtige Weg in den meisten Fällen nicht die Ersetzung von Menschen durch Maschinen, sondern eine Unterstützung der einen durch die anderen.
EVA WEBER-GUSKAR
Hannah Fry: Hello World. Was Algorithmen können und wie sie unser Leben verändern. Aus dem Englischen von Sigrid Schmid. Verlag C. H. Beck, München 2019. 272 Seiten, 19,95 Euro.
Mit Luke Skywalker und Darth
Vader veranschaulicht Fry
das Problem der Prognosen
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de
A stylish, thoughtful, and scrupulously fair-minded account of what the software that increasingly governs our lives can and cannot do ... A beautifully accessible guide that leaps lightly from one story to the next without sparing the reader hard questions... deserves a place in the bestseller charts. Oliver Moody The Times