Yvonne Hofstetter

Das Ende der Demokratie

Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt

• Gebundenes Buch

Produktbeschreibung

Wird die künstliche Intelligenz Wirtschaft und Alltag in Zukunft dominieren und den Menschen tendenziell verdrängen? Werden intelligente Maschinen Politik machen? Yvonne Hofstetter sieht deutliche Anzeichen für diese Entwicklungen. Big Data speichert unser Verhalten, künstliche Intelligenzen analysieren unsere Absichten. Und weil sie uns kennen, können sie uns manipulieren, uns unmerklich bevormunden. Der Umbau der Gesellschaft in die Herrschaft der künstlichen Intelligenz ist in vollem Gange. Ob wir sie tatsächlich wollen, darüber haben wir niemals demokratisch abgestimmt. Drohen also Freiheit und Demokratie zwischen Politikversagen und Big Data zerrieben zu werden? Hofstetter warnt davor, Big Data einfach zu verteufeln, nur um dann doch weiterzumachen wie bisher. Anhand hochbrisanter Szenarien - der Wahl einer rechtsradikalen Regierung, der Eurokrise und der Schließung europäischer Binnengrenzen - zeigt sie, wie intelligente Maschinen selbstständig politische Herausforderungen berechnen und bewältigen würden.

Produktdetails

• Verlag: C. Bertelsmann
• Seitenzahl: 512
• Erscheinungstermin: 21. September 2016
• Deutsch
• Abmessung: 220mm x 145mm x 40mm
• Gewicht: 693g
• ISBN-13: 9783570103067
• ISBN-10: 3570103064
• Artikelnr.: 44945293

Autorenporträt

Hofstetter, Yvonne
Yvonne Hofstetter, geboren 1966 in Frankfurt am Main, ist nach einem Studium der Rechtswissenschaften seit 1999 international in Softwareunternehmen tätig und für die Positionierung von Multi-Agentensystemen bei der Rüstungsindustrie und für den Algorithmischen Börsenhandel zuständig. Seit 2009 ist sie Geschäftsführerin der Teramark Technologies GmbH, eines Unternehmens, das auf die intelligente Auswertung großer Datenmengen mit Optimierern und maschinellen Lernverfahren spezialisiert ist. Yvonne Hofstetter hat aufsehenerregende Artikel in Medien wie der FAZ publiziert, bevor 2014 ihr Bestseller "Sie wissen alles" folgte.

Rezensionen

Frankfurter Allgemeine Zeitung | Besprechung von 15.10.2016

In Algorithmen lässt sich alles verstecken

Kann man Maschinen verklagen? Yvonne Hofstetter zeigt, wie die Internetindustrie den Nutzern ihrer Produkte den Anspruch auf demokratische Kontrolle erfolgreich abtrainiert.

Von Thomas Thiel

Würde man den Vordenkern von Silicon Valley sagen, ihre Technologie sei unmenschlich, würden sie dem wahrscheinlich sogar zustimmen. Sie würden es aber nicht als Werturteil betrachten. Der Mensch, schreibt Yvonne Hofstetter in ihrem Buch "Das Ende der Demokratie", gilt im Valley als ultimative Maschine, mittelfristig aber als Auslaufmodell: ein Ding unter Dingen im Internet of Everything.

Silicon Valley ist hier zwar nur Chiffre für einen weltweiten Prozess. Trotzdem ist die Metapher keine zufällige Wahl. Bei Hofstetter ist es ein spezifisch amerikanisches Denken, das den Sargnagel in die Demokratie schlägt. Im Gegensatz zu ihrem europäischen Pendant räume die amerikanische Verfassung dem freien Handel Priorität vor der Menschenwürde ein, im Sinne eine Freiheit, die zuallererst die Freiheit vom Staat meint. Die digitale Technologie verhilft dieser Anschauung zur weltweiten Dominanz. Sie erlaubt es den IT-Giganten, Staat und Gesellschaft nach ihrem Geschäftsmodell umzuprogrammieren. Demokratische Regeln und individuelle Autonomie werden subtil ausgehebelt. Wenn sich nicht Entscheidendes ändert, schließt Hofstetter, steuern wir geradewegs auf die Diktatur der amerikanischen IT-Konzerne zu.

Ist das nicht etwas hoch gegriffen? Hofstetter verdichtet ihre Argumente zumindest so, dass ihre These nicht großspurig klingt. Sie geht die Instanzen Punkt für Punkt durch. Das geltende Recht kann die Entwicklung nicht stoppen. Im Gegenteil: Der legislative Prozess wird selbst zermürbt von der Updategeschwindigkeit der IT-Unternehmen. Gleichzeitig werden in rasendem Tempo Start-ups lanciert, die gezielt in Rechtslücken stoßen. Sind diese einmal geschlossen, stehen schon die nächsten Neugründungen vor der Tür.

Die nächste Erosionsstufe ist bei Hofstetter das Internet der Dinge. Der demokratische Bürger mitsamt seinen Grundrechten dankt hier vor der Willkür technischer Agenten ab. Weder sind die opaken Programme demokratisch legitimiert, noch kann das grundgesetzlich verbriefte Klagerecht etwas ausrichten. Haftung und Verantwortung verlieren sich in den technischen Netzen. Im Normalfall erfährt der Bürger nicht einmal, dass sein digitales Profil für eine vorenthaltene Leistung verantwortlich ist. Die Algorithmen treffen ihre Entscheidungen aber nicht zum Wohl der Bürger, sondern zum Vorteil der Unternehmen. Die Verfügungsmacht über persönliche Daten ist für die Big-Data-Modelle der Digital-Ökonomie essentiell. Deutsche Autofirmen, schreibt Hofstetter, passen sich bereits an und erfinden sich neu als Unternehmen für Datenverwertung. Die Rechtsinstitutionen haben das Problem kaum erst erkannt. Am deutlichsten machte dies die Entscheidung des Bundeskartellamts, Google nicht als Kartell einzustufen: Es würde mit seiner Suchmaschine ja nichts verdienen - außer Milliarden an Werbeeinnahmen.

Warnende Stimmen gibt es viele, und Hofstetter ist eine der kraftvollsten von ihnen, doch sie dringen nicht ans Ohr der Entscheider. Zitat des Google-Vorstands Eric Schmidt: "Was wir machen, ist gut für die Menschheit, Punkt." Man kennt diese Sprache aus anderen Zusammenhängen. Die gesellschaftsverändernde Kraft dieses Wirtschaftsmodells macht Hofstetter an Googles Abacus deutlich, einem System, das biometrische Daten analysiert und in ein Punktesystem einträgt. Wer eine hohe Punktzahl hat, gilt laut Abacus als vertrauensvoller Bürger, der Zugang zu Leistungen hat, die dem, der wenig Sport treibt, fettig isst und raucht, vorenthalten bleiben.

Bevor Regina Ducan als Forschungsleiterin von Abacus zu Google wechselte, leitete sie die militärische Forschung des Pentagon, das der Google-Vorstand Eric Schmidt seit diesem März berät. Die Drehtür zwischen Tech-Industrie und amerikanischer Regierung ist in regem Betrieb. So geht liberaler Paternalismus, mit oder ohne Staat. Die amerikanische IT-Ökonomie, schließt Hofstetter, ist heute der heimliche Gesetzgeber von Gesellschaft und Staat. Sie braucht dafür keine Heere, Gerichtshöfe und Parlamente, sie tut vielmehr alles, um demokratische Kontrolle auszuschalten. Am Ende steht eine Herrschaft durch niemand. Schuld ist der Algorithmus, also keiner.

Nun lässt sich der Einwand formulieren, dass Bürger demokratischer Staaten einem solchen Irrsinn niemals zustimmen würden. In Europa würde sich bei einer Befragung, ob sie lieber von einem menschlichen oder maschinellen System regiert werden wollen, vermutlich die Mehrheit für die erste Option entscheiden. Real entscheidet man sich aber täglich dagegen oder lässt sich die Entscheidung aus Bequemlichkeit abnehmen. Hofstetter macht es an einem Beispiel deutlich: Gegen jede Form der Alltagsdiskriminierung erhebt sich heute stürmischer Protest. Im Internet nimmt man dagegen klaglos hin, dass Profiler Menschen auf der Basis weniger Verhaltensmuster typisieren und die verzerrten Profile mit unberechenbaren Folgen in multiple Kanäle einspeisen. Das vollautomatisierte Einreise-System der Vereinigten Staaten klassifizierte laut Hofstetter zwischen 2003 und 2006 mehr als die Hälfte der Passagiere als terrorverdächtig, obwohl dieser Verdacht sich als unbegründet herausstellte.

Wie kommt es zu diesem Doppelstandard? Die neue Macht ist nach Hofstetter kein Leviathan, zu dem man sich schlüssig verhalten kann. Sie wächst von unten und verschwindet in den Delegationsketten. Demokratie wird in diesen Systemen regelrecht abtrainiert. Die erste Schwundstufe ist die Google-Suche, die Suchergebnisse nach rein quantitativen Kriterien listet. Jede Suchanfrage fördert das Diktat der Mehrheit. Wäre es Google ernst mit der Demokratie, müsste es die Verlässlichkeit der Quellen bewerten und dazu erst einmal Tausende Mitarbeiter einstellen. Es ist eben nicht das Ziel des personalisierten Internets, demokratische Vielfalt zu bieten, sondern eine werbetechnisch lukrative Wohlfühlzone.

Hofstetter bleibt bei dieser Diagnose nicht stehen, obwohl ihr klar ist, dass eine schnelle Umkehr nicht zu erwarten ist. Ihre Vorschläge sind durchdacht und flüchten nicht in die Utopie: Abkehr von der Gratisökonomie, erweitertes Klagerecht gegen Maschinen. Das sogenannte Umgebungsrecht, das europäische Rechtsmaßstäbe in Algorithmen implementiert, ist Hofstetters größte Hoffnung. Das lässt sich aber nur auf der Basis einer europäischen IT-Infrastruktur durchsetzen. Zuletzt stellt Hofstetter die gesamte Architektur des Internets in Frage. Wenn das von IT-Konzernen monopolisierte Netz demokratischen Pluralismus nicht garantiert, muss es eben mehrere Netze geben. Trotz mancher Längen ist Hofstetter eine bestechende Analyse geglückt. Europa sollte keine Zeit verlieren, ihre Vorschläge umzusetzen. Silicon Valley wartet nicht.

Yvonne Hofstetter: "Das Ende der Demokratie".

Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt.

C. Bertelsmann Verlag, München 2016. 512 S., geb., 22,99 [Euro].

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

Perlentaucher-Notiz zur F.A.Z.-Rezension

Rezensent Thomas Thiel rät dazu, die Signale, die Yvonne Hofstetter aussendet, schleunigst zu erhören und ihre Vorschläge für eine europäische IT-Infrastruktur anzugehen. Durchdacht und keineswegs utopisch scheint ihm Hofstetters Forderung nach der Abkehr von der Gratisökonomie, einem erweiterten Klagerecht gegen Maschinen und dem Ausbau des Umgebungsrechts, um uns gegen Google und Co. und ihre - das sind sich Rezensent und Autorin einig - antidemokratischen Tendenzen zu schützen. Hofstetters Thesen über die Diktatur der amerikanischen IT-Konzerne findet Thiel nicht zu hoch gegriffen, weil die Autorin ihre Argumente gut verdichte und den Prozess der Erosion unserer Demokratie Punkt für Punkt erläutere. Eine kraftvolle Stimme, meint Thiel, die auch die Verbindungen zwischen US-Wirtschaft und Regierung offenlegt.

© Perlentaucher Medien GmbH

"Yvonne Hofstetter, die starke Kritikerin des Internet, warnt vor Hybris und Gleichgültigkeit. Und hat Tipps zum Widerstand. 'Das Ende der Demokratie' ist ein sehr gutes Buch." Süddeutsche Zeitung