Yvonne Hofstetter

Sie wissen alles

Wie intelligente Maschinen in unser Leben eindringen und warum wir für unsere Freiheit kämpfen müssen

• Gebundenes Buch

Produktbeschreibung

Hochaktuelles Debattenbuch über die totalitäre Tendenz von Datensystemen

Die Snowden-Enthüllungen schreckten weltweit auf. Big Data heißt das neue Geschäftsmodell der Überwachung - haben wir die Kontrolle über unsere Daten längst verloren? Yvonne Hofstetter, Expertin für künstliche Intelligenz, klärt auf: Die unvorstellbaren Datenmassen, die sekündlich abgeschöpft werden und durchs weltweite Netz fluten, sind allein noch kein Risiko. Denn die Gefahr für die freiheitliche Gesellschaft geht von intelligenten Algorithmen aus. Sie analysieren, prognostizieren und berechnen uns neu, um uns zu kontrollieren - autonom, schnell, überall und immer. Sie verbreiten sich als selbstlernende Haustechnik, vernetzte Autos oder elektronische Armbänder. Hofstetter fordert dazu auf, das einzige Supergrundrecht unserer Gesellschaftsordnung, die Menschenwürde, gegen die digitale Revolution zu verteidigen. Sie plädiert für eine neue Gesetzgebung, eine Ethik der Algorithmen und eine gesellschaftliche Debatte darüber, was der Mensch in Zukunft sein will.

Produktdetails

• Verlag: C. Bertelsmann
• Originalausgabe
• Seitenzahl: 352
• Erscheinungstermin: 15. September 2014
• Deutsch
• Abmessung: 223mm x 145mm x 35mm
• Gewicht: 584g
• ISBN-13: 9783570102169
• ISBN-10: 3570102165
• Artikelnr.: 40786470

Autorenporträt

Yvonne Hofstetter, geboren 1966 in Frankfurt am Main, ist nach einem Studium der Rechtswissenschaften seit 1999 international in Softwareunternehmen tätig und für die Positionierung von Multi-Agentensystemen bei der Rüstungsindustrie und für den Algorithmischen Börsenhandel zuständig. Seit 2009 ist sie Geschäftsführerin der Teramark Technologies GmbH, eines Unternehmens, das auf die intelligente Auswertung großer Datenmengen mit Optimierern und maschinellen Lernverfahren spezialisiert ist. Yvonne Hofstetter hat aufsehenerregende Artikel in Medien wie der FAZ publiziert, bevor 2014 ihr Bestseller "Sie wissen alles" folgte.

Rezensionen

Perlentaucher-Notiz zur WELT-Rezension

Rezensent Marc Reichwein wundert sich, dass es "Sie wissen alles" erst jetzt auf die Bestsellerlisten geschafft hat, kam das Buch doch schon im September vergangenen Jahres auf den Markt. Yvonne Hofstetter, Geschäftsführerin der Teramark Technologies GmbH, erzählt darin sehr anschaulich von der Praxis der Sammlung und Verwertung von riesigen Datenmengen und verbindet dieses ohnehin spannende Thema auch noch mit einer Gesellschaftsdiagnose, berichtet Reichwein begeistert. Dass Hofstetter gerade jetzt der berechtigte Durchbruch in dieser Sparte gelingt, schreibt der Rezensent ihrer Erwähnung in der "Brigitte" zu, die hätte großen Einfluss auf bücherkaufende Frauen, vermutet er. Schneller als die "Welt" war sie außerdem auch.

© Perlentaucher Medien GmbH

Frankfurter Allgemeine Zeitung | Besprechung von 05.10.2014

Sie haben keine Ahnung

Zwei Insider berichten aus dem Maschinenraum der Datenanalysten. Es ist ein aufschlussreicher Blick - vor allem auf die Illusionen von Big Data

Es gebe, erklärte vor knapp einhundert Jahren der Doktor Freud, drei schwere narzisstische Kränkungen, die der Mensch in seiner Geschichte erleben musste: die Entdeckungen des Kopernikus (die kosmologische), die Erkenntnisse von Darwin (die biologische) und eben jene seiner eigenen Arbeit, die psychologische, welche bekanntlich in der Einsicht bestand, dass "das Ich nicht Herr sei in seinem eigenen Haus". Seit einiger Zeit nun wird eine vierte Kränkung sichtbar, die man vielleicht die virtuelle nennen könnte. Sie läuft auf den Schock hinaus, dass es uns zweimal gibt. Im Schatten unseres rätselhaften Ichs entsteht ein berechenbarer Widerpart aus Zahlen, Entscheidungen, Bewegungen und Kontakten, ein Homunkulus aus biographischen Daten, der uns, einerseits, so ähnlich sieht wie ein Strickmuster einem Kleid. Und andererseits mit der Anmaßung auftritt, ein Wissen über unsere verborgenen Motive in sich zu tragen, das ein menschlicher Geist noch nicht einmal erkennen kann.

Nur allzu gerne würden wir diesen digitalen Zwilling einmal kennenlernen. Aber es führt kaum ein Weg zu ihm. Er lebt hinter den Bildschirmen der Apparate, mit denen wir ihn füttern, auf den Servern der großen Internetkonzerne, von denen wir zwar mittlerweile wissen, dass sie gar nicht genug von unseren Daten kriegen können; welches Wesen sie sich aber daraus zusammenreimen, davon haben wir keine Vorstellung. Dass Facebook unsere Vorlieben kennt und Google unsere Begierden, dass die Geheimdienste all ihre Bürger beobachten und Arbeitgeber unsere E-Mails auswerten: Das war ein Schock, den wir noch immer nicht annähernd überwunden haben. Es gibt aber noch einen größeren Skandal: dass wir das Bild, dass sich die Sammler unserer Daten von uns machen, noch immer nicht sehen dürfen. Wer nur weiß, dass sie alles von uns wissen, weiß nichts: Wie unser digitales Ebenbild entsteht, wie es konstruiert wird, welche Gewohnheiten und Muster es verrät, wie wir es mitgestalten können oder wie es benutzt wird - all das verbirgt sich in der Black Box unzugänglicher Server.

Dass sie den Schleier zu dieser Geheimkammer lüften, ist das große Versprechen zweier soeben erschienener Bücher. Ihre Autoren zeichnet aus, dass sie als Insider über die Ziele und Methoden der Big-Data-Branche sprechen: Die Unternehmerin Yvonne Hofstetter ("Sie wissen alles") analysiert mit ihrer Firma Teramark Daten für Staat und Industrie. Der Software-Ingenieur Markus Morgenroth ("Sie kennen dich! Sie haben dich! Sie steuern dich!") war bis vor kurzem Angestellter des amerikanischen Unternehmens Cataphora, das Programme zur Überwachung und Analyse von Verhaltensmustern anbietet. Ihre Berichte haben den Charakter der Offenbarungen von Whistleblowern. Bei Morgenroth geht das so weit, dass er aus dem Geschäft ausstieg und heute als Datenschutzberater arbeitet. Hofstetter immerhin schreibt ihrer Firma einen Ethikcodex auf die Fahne, der verspricht, mit ihren Wunderwaffen nicht auf Menschen zu zielen.

Es geht in beiden Büchern natürlich auch sehr ausführlich um die grundsätzlichen Risiken von Big Data, um die Gefährdung der Privatsphäre und der individuellen Freiheit, um die enorme Macht monopolistischer Datenkonzerne und das Fehlen effektiver Kontrollinstanzen, um die Ahnungslosigkeit vieler Nutzer und die Ignoranz der Politik, und wer immer noch nicht beunruhigt ist, findet bei beiden reichlich aktuelle Beispiele aus den Laboren des Schreckens. Bei Morgenroth etwa liest man von städtischen Mülleimern mit W-Lan-Sensoren, die registrieren, auf welchen Routen sich Passanten durch die Stadt bewegen; von Schaufensterpuppen mit Kameras und Gesichtserkennungssoftware, die untersuchen, welche Kunden sich für welche Produkte interessieren, und Profile nach Alter, Geschlecht und Ethnie ermitteln; von Autos, die messen, wie riskant der Fahrstil der Versicherten ist, und daraus sogenannte Telematikpolicen errechnen; und von Schülern, die ihr Mittagessen in der Kantine per Fingerabdruck bezahlen müssen. Und wer vor all den Überwachungsapparaten am liebsten sofort in den Wald fliehen würde, sollte sich auch dort vergewissern, dass ihn nicht eine der 100000 Kameras erfasst, die deutsche Förster dort mittlerweile aufgebaut haben. Hofstetters Ansatz ist eher wissenschaftshistorisch, aber nicht weniger gespenstisch: Sie folgt dem Siegeszug der Algorithmen, die heute im Geschäft mit Big Data verwendet werden, quer durch all jene Wahnsinnsbranchen, in denen schon lange mit ihnen herumgespielt wird, dem Militär etwa oder der Wall Street, wo sie ihre zerstörerische Kraft bereits bewiesen haben.

All diese Schilderungen sind aufschlussreich, den Blick des Insiders erfordern sie nicht. Das gilt erst recht für die moralischen Einwände von Morgenroth und Hofstetter, so selten sie in ihrem Milieu auch sein mögen. Die Big-Data-Industrie, schreibt Hofstetter, in der "manch grenzdebiler Zeitgenosse mit eingeschränkten sozialen Fähigkeiten" arbeite, sei "taub für die mahnende Stimme", alle seien berauscht von der Intelligenz der Maschinen und dem "unermesslichen Profitpotential". Zum Kern beider Bücher dringt man erst vor, wenn es um die entscheidende Frage geht: Was, zum Teufel, macht so ein Algorithmus eigentlich? Und was macht man mit ihm?

Die Praxis dieser Arbeit wird vor allem in Morgenroths Buch anschaulich und auch, wenn man so will, die Dynamik ihres Sündenfalls. Zunächst nämlich, beschreibt er, sei es Cataphoras Aufgabe gewesen, kriminelles Verhalten in Unternehmen zu entlarven, es ging um Wirtschaftsdelikte wie Insiderhandel und illegale Preisabsprachen. Mit der Zeit aber merkte man, was man aus den Kommunikationsmustern der Mitarbeiter noch alles lernen kann. Und so änderten sich auch die Fragestellungen. Die Daten verrieten nicht nur, wie sich Menschen verhalten, wenn sie etwas zu vertuschen haben, sondern ließen auch Rückschlüsse auf Produktivität und Motivation zu. So wurde aus dem kriminalistischen Ansatz ein manipulativer, die Ergebnisse der Ermittlung verschoben die Normen des gewünschten Verhaltens. Wie dabei die Analysten die Profile der Mitarbeiter zusammenstricken, liest sich wie Science-Fiction. Wer mit wem wann zum Mittagessen geht, wie sich die Tonlage der E-Mails unterscheidet oder in welcher Reihenfolge die Adressaten angegeben werden - jedes vermeintlich belanglose Detail gewinnt Aussagekraft. Und das Einzige, was man noch weniger fassen kann als die Komplexität solcher Methoden, ist die Tatsache, dass sie überhaupt zum Einsatz kommen. Es mag tragisch sein, von einem Unternehmen gefeuert zu werden, das seine Mitarbeiter derart optimieren möchte. Aber was für ein Horror muss es sein, dort zu arbeiten?

Wie es zu dieser Totalökonomisierung kommen konnte, kann man bei Hofstetter nachlesen. Algorithmen nämlich, so ihre These, sind immer dann am effektivsten, wenn sie auf die Optimierung eines einzigen Parameters ausgerichtet sind. Sie eignen sich dazu, Gewinne zu maximieren, aber nicht unbedingt dazu, dabei auch noch Interessen wie individuelle Freiheit oder soziale Gerechtigkeit zu berücksichtigen. Man muss ihre kulturkritische Schlussfolgerung nicht teilen, die das Problem auf einen Kulturkampf zwischen dem "Paretooptimum" des "rheinischen Kapitalismus" und dem "deregulierten Turbokapitalismus angloamerikanischer Provenienz" reduziert. Viel wichtiger ist, dass sie den Blick auf die strukturellen Probleme richtet, die der Glaube an das Potential von Big Data beinhaltet.

Die Stärke von Hofstetters Buch ist, dass sie den Lesern die Funktionsweisen von Big Data auch technisch näherbringt - auch wenn sie ihre Leser immer ausgerechnet dann ermahnt, nicht einzuschlafen, wenn es am spannendsten wird. Man muss gar nicht unbedingt verstehen, was der Grundgedanke der Bayesschen Statistik ist oder eine spaltenorientierte Datenbank; dass sie sich trotzdem Mühe gibt, es zu erklären, ist allein schon eine aufklärerische Großtat. Worunter die Big-Data-Debatte nämlich am meisten leidet, ist, dass sie so selten über ein ideologisches Niveau hinauskommt. Ob Algorithmen die Macht haben, unser Denken zu verändern, oder nur harmlose Helfer sind, die den Alltag erleichtern, ist daher für uns Laien letztlich eine Glaubensfrage. Ihr Grund bleibt ein Mysterium.

Der entscheidende Begriff bei Hofstetter ist jener der "False Positives", der falschen Ergebnisse, die die Algorithmen hervorbringen. Sie haben nicht nur zur Folge, dass unverdächtige Namensvetter auf No-Fly-Listen landen und gut verdienende Kunden keinen Kredit bekommen. Vor allem machen sie die Menschen zu Gefangenen ihrer vergangenen Routinen: "Der Mensch", schreibt Hofstetter, "wird festgelegt auf alle persönlichen Daten, mit denen er seinem Leben einst Ausdruck verleihen wollte, in seinen ganz verschiedenen Lebensphasen und -situationen, dokumentiert und zementiert für die Ewigkeit in den modernen Datenbanken des Big-Data-Ökosystems." Auch Morgenroth lässt keinen Zweifel daran, wie fehleranfällig solche Datenanalysen kategorisch sind, vor allem wenn sie mit den Mitteln der Computerlinguistik arbeiten, also versuchen, Sprache zu verstehen. Unendliche Bedeutungsmöglichkeiten müssen dazu auf einen "begrenzten Katalog an Kriterien" - eine sogenannte Ontologie - reduziert werden, das ist keine Frage der Computerleistung. "Weder jetzt noch in naher Zukunft", schreibt Morgenroth, "wird es ein perfekt funktionierendes System geben, das Sprache in all ihren Facetten versteht."

Darum hätte Hofstetter ihr Buch genauso gut "Sie wissen gar nichts" nennen können. Wer wir sind und wie wir leben wollen, davon haben Datenbanken nicht die geringste Ahnung. Dass Dumme ist nur, dass das kein Grund zur Entwarnung ist. Das Gefährliche am algorithmischen Weltbild ist nicht, dass seine Apologeten so viel über uns wissen, sondern dass ihnen das, was sie von uns wissen, völlig ausreicht, um die Regeln für die digitale Welt daraus abzuleiten.

Der Fehler, sich allein nach den verfügbaren Informationen zu richten, ist kein Privileg der Maschinen. Es war auch schon, um noch mal Sigmund Freud zu Wort kommen zu lassen, das Ich, das sich irrte, als es darauf vertraute, zu wissen, was in der Seele vorgeht. Wenn es sich nur auf den "Nachrichtendienst an dein Bewusstsein" verlässt, hat es mit unvollständigen und unzuverlässigen Informationen zu tun. Was Freud dem Ich vorwarf, kann man, allen Überwachungsobsessionen zum Trotz, auch jenen in Erinnerung rufen, die uns mit unseren "virtuellen Zombies" (Hofstetter) verwechseln: "Du benimmst dich wie ein absoluter Herrscher, der es sich an den Informationen seiner obersten Hofämter genügen läßt und nicht zum Volk herabsteigt, um dessen Stimme zu hören."

Es wird Zeit, dass wir die Algorithmen auf die Couch schicken.

HARALD STAUN.

Yvonne Hofstetter: "Sie wissen alles". C. Bertelsmann, 352 Seiten, 19,99 Euro.

Markus Morgenroth: "Sie kennen dich! Sie haben dich! Sie steuern dich!". Droemer, 272 Seiten, 19,99 Euro

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

"Dieses Buch über die Macht intelligenter Maschinen ist so alarmierend wie sachkundig." ZEIT Literatur