Yvonne Hofstetter

Sie wissen alles

Wie intelligente Maschinen in unser Leben eindringen und warum wir für unsere Freiheit kämpfen müssen

• Gebundenes Buch

Produktbeschreibung

Hochaktuelles Debattenbuch über die totalitäre Tendenz von Datensystemen

Die Snowden-Enthüllungen schreckten weltweit auf. Big Data heißt das neue Geschäftsmodell der Überwachung - haben wir die Kontrolle über unsere Daten längst verloren? Yvonne Hofstetter, Expertin für künstliche Intelligenz, klärt auf: Die unvorstellbaren Datenmassen, die sekündlich abgeschöpft werden und durchs weltweite Netz fluten, sind allein noch kein Risiko. Denn die Gefahr für die freiheitliche Gesellschaft geht von intelligenten Algorithmen aus. Sie analysieren, prognostizieren und berechnen uns neu, um uns zu kontrollieren - autonom, schnell, überall und immer. Sie verbreiten sich als selbstlernende Haustechnik, vernetzte Autos oder elektronische Armbänder. Hofstetter fordert dazu auf, das einzige Supergrundrecht unserer Gesellschaftsordnung, die Menschenwürde, gegen die digitale Revolution zu verteidigen. Sie plädiert für eine neue Gesetzgebung, eine Ethik der Algorithmen und eine gesellschaftliche Debatte darüber, was der Mensch in Zukunft sein will.

Produktdetails

• Verlag: C. Bertelsmann
• Originalausgabe
• Seitenzahl: 352
• Erscheinungstermin: 15. September 2014
• Deutsch
• Abmessung: 223mm x 145mm x 35mm
• Gewicht: 584g
• ISBN-13: 9783570102169
• ISBN-10: 3570102165
• Artikelnr.: 40786470

Autorenporträt

Yvonne Hofstetter, geboren 1966 in Frankfurt am Main, ist nach einem Studium der Rechtswissenschaften seit 1999 international in Softwareunternehmen tätig und für die Positionierung von Multi-Agentensystemen bei der Rüstungsindustrie und für den Algorithmischen Börsenhandel zuständig. Seit 2009 ist sie Geschäftsführerin der Teramark Technologies GmbH, eines Unternehmens, das auf die intelligente Auswertung großer Datenmengen mit Optimierern und maschinellen Lernverfahren spezialisiert ist. Yvonne Hofstetter hat aufsehenerregende Artikel in Medien wie der FAZ publiziert, bevor 2014 ihr Bestseller "Sie wissen alles" folgte.

Rezensionen

Süddeutsche Zeitung | Besprechung von 13.09.2014

Zeugin
der Anklage
Yvonne Hofstetters Buch „Sie wissen alles“ – eine
Warnung aus dem Inneren der „Big Data“-Industrie
VON JOHANNES BOIE
Wie muss man eigentlich drauf sein, um als Autorin das erste Kapitel des eigenen Buches „Genesis“ zu nennen?
  So wie Yvonne Hofstetter, die macht auch gleich so weiter. Der erste Satz ihres Buches: „Der Skandal ist ungeheuerlich.“ Da ist kein Missverständnis möglich. Es handelt sich bei ihrem Erstlingswerk „Sie wissen alles“ um eine 322 Seiten starke Warnung. Es ist ein Buch aus der nur selten erweiterten Reihe jener Werke, die es dem Leser später unmöglich machen werden zu behaupten, er hätte von nichts gewusst.
  Hofstetter ist seit fünf Jahren Geschäftsführerin eines Unternehmens, das sich auf Technik, die große Datenmengen auswerten kann, spezialisiert hat; sie produziert Schlüsseltechnologien im Big-Data-Bereich. Zuvor arbeitete sie bei Softwareunternehmen an Aufträgen für die Rüstungsindustrie und für den viel kritisierten, computergesteuerten Börsenhandel. Sie ist Teil dessen, was sie beschreibt. Wobei „beschreiben“ ein zu sanftes Wort ist. Hofstetter nimmt die Entwicklung der digitalen Möglichkeiten in ihrer gesamten Bandbreite wahr, von verletztem oder nicht existierendem Datenschutz, von der Auswertung persönlicher Daten durch Konzerne und Regierungen bis hin zur daraus folgenden Normierung, der sich das Individuum im digitalen Zeitalter ohne Einflussmöglichkeit oder Gegenwehr unterworfen sieht. Sie kritisiert diese Entwicklung, sie verurteilt sie, sie lehnt sie ab.
  Der Leser sitzt bei ihr im Zuschauerraum, während Hofstetter sich selbst zur Anklägerin, zur Richterin, dann und wann aber auch zur Verteidigerin der digitalen Welt erklärt. Sie will aber auch andere zum Handeln motivieren – die Politik, die Konzerne, die Bürger: Tut endlich was!
  Zurück bliebe sie in diesem erhofften Szenario dann nur als Kronzeugin, die hervorgetreten ist aus einer Welt der Berechnungen, in der arbeiten in jedem Fall denken bedeutet, die sich von jenem Konferenztisch in der bayerischen Provinz, an dem sie die programmierenden Mathematiker und Physiker ihres Unternehmens dirigiert, kurz entfernt hat – um der Welt mitzuteilen, wie es wirklich um sie steht.
  Damit wählt Hofstetter exakt den entgegengesetzten Weg all jener, die jetzt noch schnell nach der Arbeit objektorientierte Programmiersprachen lernen, um in drei Jahren nicht arbeitslos zu sein. Oder, noch besser, um endlich ihr eigenes Start-up zu gründen. Die bitteren Nebenwirkungen des digitalen Zeitalters zu bezeugen, das ist für sie: staatsbürgerliche Pflicht. Einerseits. Andererseits wünschte sich Frank Schirrmacher, der im Juni verstorbene Herausgeber der FAZ, dass sie ihre Erfahrungen zu Papier bringen möge. Diese Erfahrungen sind es nämlich, die ihr Buch von vielen anderen die Digitaldebatte prägenden Werke unterscheiden und die ihr eine besondere Glaubwürdigkeit verleihen.
  Wie also steht es um die Welt, dem Bericht dieser Zeugin zufolge? Ziemlich, ziemlich düster, vorsichtig ausgedrückt, und deshalb hält Hofstetter ihren Duktus von der ersten bis zur letzten Seite durch: „Wie Big Data heute mit persönlichen Daten verfährt, ist mit der Menschenwürde nicht vereinbar“, heißt es da. Oder: „Die digitale Beobachtung und Berechnung des Menschen wird eine neue Gesellschaftsform hervorbringen: die Kontrollgesellschaft.“
  Die ersten Kapitel sind mehr wie ein Roman als wie ein Sachbuch erzählt, da berichtet die Autorin von der Ausstattung der Awacs -Überwachungsflugzeuge mit künstlicher Intelligenz, an der sie selbst beteiligt war. An diesem und am Beispiel der digital gesteuerten Finanzmärkte wird die Technik erklärt, die mehr und mehr das Leben aller steuert, wie früher nur den Kauf und Verkauf von Aktien: den Wandel des Menschen vom Subjekt zum Objekt. Dabei gehen auch mal ein paar Formulierungen daneben: Investoren „spielen Strategien“, das Steuerrecht „sitzt einem Irrtum auf“ und „Entgelte fließen“. Geschenkt.
  Dann kommen die Handlungsempfehlungen, die Hofstetter an den erzählten Teil des Buches anfügt, die ihr Werk von den Theoriewälzern etwa aus der Werkstatt Evgeny Morozovs unterscheiden. Hofstetter liefert mehr Aufruf als Analyse. Sie lehnt auch nicht die Technik an sich ab, ganz im Gegenteil: „Mehr Mut, schnelles Handeln, größere Entschlossenheit und, ganz banal, mehr Geld“ – für eine „lebenswerte Mensch-Maschine Zukunft“. Selbst aus der Feder einer deutschen Unternehmerin klingt das erstaunlich, fast kalifornisch – dabei ist es doch das Gegenteil dessen, was im Silicon Valley entsteht.
  Hofstetters Vertrauen in den Staat, in die Demokratie ist groß. Noch größer ist ihre Hoffnung, was der Staat in der Zukunft zusätzlich leisten könnte. Sie fordert sehr konkrete Regeln, ein „Update der Gesellschaft“. Immer wieder also die Frage: In welcher Gesellschaft wollen wir leben? Das Recht auf eine eigene Entscheidung, ein Plädoyer fürs Abwarten, für Datenaskese: Unterschreibe ich diese AGBs? Kaufe ich ein neues iPhone? Möchte ich meinen Fingerabdruck an ein Apple-Gerät abgeben?
  Dazu bräuchte es freilich eine „professionellere Version“ des Staates, und nicht die eher hilflosen Gestalten, die im Jahr 2014 in Berlin eine wenig konkrete Digitale Agenda vorstellen. Bis tatsächlich „Grundrechte für Datensubjekte“ in Gesetzesform gegossen sind, wird es wohl noch eine Weile dauern. Und bis der Staat in der Lage wäre, eine „Treuhandstelle“ für persönliche Daten einzurichten, die – neutral und unbestechlich – im Blick behält, welche Behörde und welcher Konzern welche Details aus privaten Leben zu Geschäfts- oder Überwachungszwecken verhökern oder einsetzen. Außerdem setzt Hofstetter auf ein Modell, in dem Geld die Verbraucher für ihre Daten entschädigt. Wenn die Daten des Einzelnen schon als Gut gehandelt werden, oft genug in einer Art, die negative Folgen für ihn haben kann, dann soll er wenigstens mitverdienen. Einen Versuch ist es wert.
Hofstetter lehnt nicht die Technik
an sich ab, nur ihre Verwendung
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de

Perlentaucher-Notiz zur WELT-Rezension

Rezensent Marc Reichwein wundert sich, dass es "Sie wissen alles" erst jetzt auf die Bestsellerlisten geschafft hat, kam das Buch doch schon im September vergangenen Jahres auf den Markt. Yvonne Hofstetter, Geschäftsführerin der Teramark Technologies GmbH, erzählt darin sehr anschaulich von der Praxis der Sammlung und Verwertung von riesigen Datenmengen und verbindet dieses ohnehin spannende Thema auch noch mit einer Gesellschaftsdiagnose, berichtet Reichwein begeistert. Dass Hofstetter gerade jetzt der berechtigte Durchbruch in dieser Sparte gelingt, schreibt der Rezensent ihrer Erwähnung in der "Brigitte" zu, die hätte großen Einfluss auf bücherkaufende Frauen, vermutet er. Schneller als die "Welt" war sie außerdem auch.

© Perlentaucher Medien GmbH

Frankfurter Allgemeine Zeitung | Besprechung von 05.10.2014

Sie haben keine Ahnung

Zwei Insider berichten aus dem Maschinenraum der Datenanalysten. Es ist ein aufschlussreicher Blick - vor allem auf die Illusionen von Big Data

Es gebe, erklärte vor knapp einhundert Jahren der Doktor Freud, drei schwere narzisstische Kränkungen, die der Mensch in seiner Geschichte erleben musste: die Entdeckungen des Kopernikus (die kosmologische), die Erkenntnisse von Darwin (die biologische) und eben jene seiner eigenen Arbeit, die psychologische, welche bekanntlich in der Einsicht bestand, dass "das Ich nicht Herr sei in seinem eigenen Haus". Seit einiger Zeit nun wird eine vierte Kränkung sichtbar, die man vielleicht die virtuelle nennen könnte. Sie läuft auf den Schock hinaus, dass es uns zweimal gibt. Im Schatten unseres rätselhaften Ichs entsteht ein berechenbarer Widerpart aus Zahlen, Entscheidungen, Bewegungen und Kontakten, ein Homunkulus aus biographischen Daten, der uns, einerseits, so ähnlich sieht wie ein Strickmuster einem Kleid. Und andererseits mit der Anmaßung auftritt, ein Wissen über unsere verborgenen Motive in sich zu tragen, das ein menschlicher Geist noch nicht einmal erkennen kann.

Nur allzu gerne würden wir diesen digitalen Zwilling einmal kennenlernen. Aber es führt kaum ein Weg zu ihm. Er lebt hinter den Bildschirmen der Apparate, mit denen wir ihn füttern, auf den Servern der großen Internetkonzerne, von denen wir zwar mittlerweile wissen, dass sie gar nicht genug von unseren Daten kriegen können; welches Wesen sie sich aber daraus zusammenreimen, davon haben wir keine Vorstellung. Dass Facebook unsere Vorlieben kennt und Google unsere Begierden, dass die Geheimdienste all ihre Bürger beobachten und Arbeitgeber unsere E-Mails auswerten: Das war ein Schock, den wir noch immer nicht annähernd überwunden haben. Es gibt aber noch einen größeren Skandal: dass wir das Bild, dass sich die Sammler unserer Daten von uns machen, noch immer nicht sehen dürfen. Wer nur weiß, dass sie alles von uns wissen, weiß nichts: Wie unser digitales Ebenbild entsteht, wie es konstruiert wird, welche Gewohnheiten und Muster es verrät, wie wir es mitgestalten können oder wie es benutzt wird - all das verbirgt sich in der Black Box unzugänglicher Server.

Dass sie den Schleier zu dieser Geheimkammer lüften, ist das große Versprechen zweier soeben erschienener Bücher. Ihre Autoren zeichnet aus, dass sie als Insider über die Ziele und Methoden der Big-Data-Branche sprechen: Die Unternehmerin Yvonne Hofstetter ("Sie wissen alles") analysiert mit ihrer Firma Teramark Daten für Staat und Industrie. Der Software-Ingenieur Markus Morgenroth ("Sie kennen dich! Sie haben dich! Sie steuern dich!") war bis vor kurzem Angestellter des amerikanischen Unternehmens Cataphora, das Programme zur Überwachung und Analyse von Verhaltensmustern anbietet. Ihre Berichte haben den Charakter der Offenbarungen von Whistleblowern. Bei Morgenroth geht das so weit, dass er aus dem Geschäft ausstieg und heute als Datenschutzberater arbeitet. Hofstetter immerhin schreibt ihrer Firma einen Ethikcodex auf die Fahne, der verspricht, mit ihren Wunderwaffen nicht auf Menschen zu zielen.

Es geht in beiden Büchern natürlich auch sehr ausführlich um die grundsätzlichen Risiken von Big Data, um die Gefährdung der Privatsphäre und der individuellen Freiheit, um die enorme Macht monopolistischer Datenkonzerne und das Fehlen effektiver Kontrollinstanzen, um die Ahnungslosigkeit vieler Nutzer und die Ignoranz der Politik, und wer immer noch nicht beunruhigt ist, findet bei beiden reichlich aktuelle Beispiele aus den Laboren des Schreckens. Bei Morgenroth etwa liest man von städtischen Mülleimern mit W-Lan-Sensoren, die registrieren, auf welchen Routen sich Passanten durch die Stadt bewegen; von Schaufensterpuppen mit Kameras und Gesichtserkennungssoftware, die untersuchen, welche Kunden sich für welche Produkte interessieren, und Profile nach Alter, Geschlecht und Ethnie ermitteln; von Autos, die messen, wie riskant der Fahrstil der Versicherten ist, und daraus sogenannte Telematikpolicen errechnen; und von Schülern, die ihr Mittagessen in der Kantine per Fingerabdruck bezahlen müssen. Und wer vor all den Überwachungsapparaten am liebsten sofort in den Wald fliehen würde, sollte sich auch dort vergewissern, dass ihn nicht eine der 100000 Kameras erfasst, die deutsche Förster dort mittlerweile aufgebaut haben. Hofstetters Ansatz ist eher wissenschaftshistorisch, aber nicht weniger gespenstisch: Sie folgt dem Siegeszug der Algorithmen, die heute im Geschäft mit Big Data verwendet werden, quer durch all jene Wahnsinnsbranchen, in denen schon lange mit ihnen herumgespielt wird, dem Militär etwa oder der Wall Street, wo sie ihre zerstörerische Kraft bereits bewiesen haben.

All diese Schilderungen sind aufschlussreich, den Blick des Insiders erfordern sie nicht. Das gilt erst recht für die moralischen Einwände von Morgenroth und Hofstetter, so selten sie in ihrem Milieu auch sein mögen. Die Big-Data-Industrie, schreibt Hofstetter, in der "manch grenzdebiler Zeitgenosse mit eingeschränkten sozialen Fähigkeiten" arbeite, sei "taub für die mahnende Stimme", alle seien berauscht von der Intelligenz der Maschinen und dem "unermesslichen Profitpotential". Zum Kern beider Bücher dringt man erst vor, wenn es um die entscheidende Frage geht: Was, zum Teufel, macht so ein Algorithmus eigentlich? Und was macht man mit ihm?

Die Praxis dieser Arbeit wird vor allem in Morgenroths Buch anschaulich und auch, wenn man so will, die Dynamik ihres Sündenfalls. Zunächst nämlich, beschreibt er, sei es Cataphoras Aufgabe gewesen, kriminelles Verhalten in Unternehmen zu entlarven, es ging um Wirtschaftsdelikte wie Insiderhandel und illegale Preisabsprachen. Mit der Zeit aber merkte man, was man aus den Kommunikationsmustern der Mitarbeiter noch alles lernen kann. Und so änderten sich auch die Fragestellungen. Die Daten verrieten nicht nur, wie sich Menschen verhalten, wenn sie etwas zu vertuschen haben, sondern ließen auch Rückschlüsse auf Produktivität und Motivation zu. So wurde aus dem kriminalistischen Ansatz ein manipulativer, die Ergebnisse der Ermittlung verschoben die Normen des gewünschten Verhaltens. Wie dabei die Analysten die Profile der Mitarbeiter zusammenstricken, liest sich wie Science-Fiction. Wer mit wem wann zum Mittagessen geht, wie sich die Tonlage der E-Mails unterscheidet oder in welcher Reihenfolge die Adressaten angegeben werden - jedes vermeintlich belanglose Detail gewinnt Aussagekraft. Und das Einzige, was man noch weniger fassen kann als die Komplexität solcher Methoden, ist die Tatsache, dass sie überhaupt zum Einsatz kommen. Es mag tragisch sein, von einem Unternehmen gefeuert zu werden, das seine Mitarbeiter derart optimieren möchte. Aber was für ein Horror muss es sein, dort zu arbeiten?

Wie es zu dieser Totalökonomisierung kommen konnte, kann man bei Hofstetter nachlesen. Algorithmen nämlich, so ihre These, sind immer dann am effektivsten, wenn sie auf die Optimierung eines einzigen Parameters ausgerichtet sind. Sie eignen sich dazu, Gewinne zu maximieren, aber nicht unbedingt dazu, dabei auch noch Interessen wie individuelle Freiheit oder soziale Gerechtigkeit zu berücksichtigen. Man muss ihre kulturkritische Schlussfolgerung nicht teilen, die das Problem auf einen Kulturkampf zwischen dem "Paretooptimum" des "rheinischen Kapitalismus" und dem "deregulierten Turbokapitalismus angloamerikanischer Provenienz" reduziert. Viel wichtiger ist, dass sie den Blick auf die strukturellen Probleme richtet, die der Glaube an das Potential von Big Data beinhaltet.

Die Stärke von Hofstetters Buch ist, dass sie den Lesern die Funktionsweisen von Big Data auch technisch näherbringt - auch wenn sie ihre Leser immer ausgerechnet dann ermahnt, nicht einzuschlafen, wenn es am spannendsten wird. Man muss gar nicht unbedingt verstehen, was der Grundgedanke der Bayesschen Statistik ist oder eine spaltenorientierte Datenbank; dass sie sich trotzdem Mühe gibt, es zu erklären, ist allein schon eine aufklärerische Großtat. Worunter die Big-Data-Debatte nämlich am meisten leidet, ist, dass sie so selten über ein ideologisches Niveau hinauskommt. Ob Algorithmen die Macht haben, unser Denken zu verändern, oder nur harmlose Helfer sind, die den Alltag erleichtern, ist daher für uns Laien letztlich eine Glaubensfrage. Ihr Grund bleibt ein Mysterium.

Der entscheidende Begriff bei Hofstetter ist jener der "False Positives", der falschen Ergebnisse, die die Algorithmen hervorbringen. Sie haben nicht nur zur Folge, dass unverdächtige Namensvetter auf No-Fly-Listen landen und gut verdienende Kunden keinen Kredit bekommen. Vor allem machen sie die Menschen zu Gefangenen ihrer vergangenen Routinen: "Der Mensch", schreibt Hofstetter, "wird festgelegt auf alle persönlichen Daten, mit denen er seinem Leben einst Ausdruck verleihen wollte, in seinen ganz verschiedenen Lebensphasen und -situationen, dokumentiert und zementiert für die Ewigkeit in den modernen Datenbanken des Big-Data-Ökosystems." Auch Morgenroth lässt keinen Zweifel daran, wie fehleranfällig solche Datenanalysen kategorisch sind, vor allem wenn sie mit den Mitteln der Computerlinguistik arbeiten, also versuchen, Sprache zu verstehen. Unendliche Bedeutungsmöglichkeiten müssen dazu auf einen "begrenzten Katalog an Kriterien" - eine sogenannte Ontologie - reduziert werden, das ist keine Frage der Computerleistung. "Weder jetzt noch in naher Zukunft", schreibt Morgenroth, "wird es ein perfekt funktionierendes System geben, das Sprache in all ihren Facetten versteht."

Darum hätte Hofstetter ihr Buch genauso gut "Sie wissen gar nichts" nennen können. Wer wir sind und wie wir leben wollen, davon haben Datenbanken nicht die geringste Ahnung. Dass Dumme ist nur, dass das kein Grund zur Entwarnung ist. Das Gefährliche am algorithmischen Weltbild ist nicht, dass seine Apologeten so viel über uns wissen, sondern dass ihnen das, was sie von uns wissen, völlig ausreicht, um die Regeln für die digitale Welt daraus abzuleiten.

Der Fehler, sich allein nach den verfügbaren Informationen zu richten, ist kein Privileg der Maschinen. Es war auch schon, um noch mal Sigmund Freud zu Wort kommen zu lassen, das Ich, das sich irrte, als es darauf vertraute, zu wissen, was in der Seele vorgeht. Wenn es sich nur auf den "Nachrichtendienst an dein Bewusstsein" verlässt, hat es mit unvollständigen und unzuverlässigen Informationen zu tun. Was Freud dem Ich vorwarf, kann man, allen Überwachungsobsessionen zum Trotz, auch jenen in Erinnerung rufen, die uns mit unseren "virtuellen Zombies" (Hofstetter) verwechseln: "Du benimmst dich wie ein absoluter Herrscher, der es sich an den Informationen seiner obersten Hofämter genügen läßt und nicht zum Volk herabsteigt, um dessen Stimme zu hören."

Es wird Zeit, dass wir die Algorithmen auf die Couch schicken.

HARALD STAUN.

Yvonne Hofstetter: "Sie wissen alles". C. Bertelsmann, 352 Seiten, 19,99 Euro.

Markus Morgenroth: "Sie kennen dich! Sie haben dich! Sie steuern dich!". Droemer, 272 Seiten, 19,99 Euro

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

"Dieses Buch über die Macht intelligenter Maschinen ist so alarmierend wie sachkundig." ZEIT Literatur