Nicht lieferbar
In den letzten zwei Jahrzehnten hat die Digitalisierung immer mehr Bereiche unseres Lebens durchdrungen. Zeitverzögert, dafür aber umso rasanter gerät nun auch der Staat in den Sog dieser Entwicklung. Die umfassende Transformation staatlicher Institutionen hat bereits begonnen. Die Entwicklung eines digital-technologischen Staatsapparates, der den Bürgern und Wirtschaftsakteuren dient und in diesem Sinne als positiv und hilfreich wahrgenommen wird, ist jedoch kein Selbstläufer. Bereits jetzt ist erkennbar, wie digitale Transformation des Staates von den gleichen grundlegenden digitalen Dynamiken und Mechanismen angetrieben wird, die schon die Wirtschaft durchgerüttelt und einschneidend geprägt haben. In ihrem neuen Buch beleuchten Christian R. Ulbrich und Bruno S. Frey die Hintergründe dieser Dynamiken und Mechanismen und erläutern, welche bisher kaum beachteten Risiken und Chancen sie für unser demokratisches Gemeinwesen mit sich bringen. Sie machen konkrete und innovative Vorschläge, wie zentrale demokratische Institutionen digital-technologisch gestützt zukunftsfest gemacht werden. Im Zeitalter permanenter digitaler Transformation auf nahezu allen Ebenen muss sich der Staat im Digitalen neu erfinden. Er tut es richtig oder er scheitert – zulasten von Demokratie, sozialem Zusammenhalt und Wohlstand.
Perlentaucher-Notiz zur F.A.Z.-Rezension
Zwei Bände, die sich mit den Risiken künstlicher Intelligenz auseinandersetzen, hat Rezensent Alexander Armbruster vor sich: Bruno Frey, Wirtschaftswissenschaftler, und Christian Ulbrich, Jurist, fragen sich, was mit unserem politischen System passiert, wenn eine KI-gesteuerte Digitalisierung mehr und mehr Raum einnimmt. Sie sehen darin etwa die Gefahr von "digitalen Autokratien", die zunehmend Kontrolle übernehmen, wenngleich sie konstatieren, dass sich Staaten nicht völlig von Algorithmen freimachen können und deshalb Kompromisse gefunden werden müssen, berichtet Armbruster. Um das zu ermöglichen, haben sie bestimmte Kriterien für das Design von Algorithmen im Blick - ein bereichernder Blick auf die Debatte um KI, befindet der Kritiker.
© Perlentaucher Medien GmbH
© Perlentaucher Medien GmbH
Was dem Staat und der Wirtschaft tatsächlich droht
Künstliche Intelligenz (KI) produziert Wissen. Diese Schlüsseltechnologie ermöglicht, unvorstellbare und stetig wachsende Datenmengen in nie dagewesener Weise zu erschließen und nutzbar zu machen - die Chancen scheinen gewaltig: Neue Medikamente, neue Materialien, hilfreichere Suchmaschinen, persönliche Allzweck-Assistenten, übermenschlich qualifizierte Qualitätsprüfer und zielgenauere Empfehlungs-Algorithmen sind nur einige Beispiele, die Liste ließe sich fortsetzen. Unternehmen aller Branchen prüfen, was das bedeutet, wie sich Produkte, Prozesse und Berufsbilder ändern. Zu Recht. Mehr Wohlstand für viele ist auch durch diesen technischen Fortschritt am Ende ein äußerst wahrscheinliches Szenario.
Doch wie in jeder Umbruchphase gibt es Risiken, mitunter droht sogar erheblicher Schaden. Zwei lesenswerte Bände sind nun erschienen, die sich mit Gefahren für unser Zusammenleben auseinandersetzen, die mit KI einhergehen können. Beide befassen sich nicht mit technologischen Details oder der nötigen Informatik, sondern mit den politischen, gesellschaftlichen und wirtschaftlichen Systemen zumal der westlichen Länder. "Die Verselbstständigung des Kapitalismus - Wie KI Menschen und Wirtschaft steuert und für mehr Bürokratie sorgt" heißt das Buch, das der Ökonom Mathias Binswanger vorgelegt hat. Binswanger holt historisch weit aus und wird grundsätzlich. Er skizziert, was eigentlich Wesensmerkmale einer kapitalistischen Wirtschaft sind, und führt dann beispielhaft die Sichtweisen von Werner Sombart, Karl Marx, Max Weber und Jeremy Bentham an. Er kontrastiert dabei, wie sich der Wunsch nach Freiheit, das Versprechen vom wachsenden Wohlstand und das Bedürfnis nach Planbarkeit, Kontrolle und Steuerung zueinander verhalten, wie sie sich ergänzen und widersprechen. Sodann erläutert er, welchen (sinnvollen) Beitrag Bürokratie prinzipiell leistet, wieso sie im Staat und in großen Unternehmen überhaupt entstanden ist und warum sie leider - wenn auch aus guten Absichten - ständig wächst und ihre Wirkungsweise längst dem Ideal entglitten ist.
Nachdem Binswanger so das Feld bereitet hat, führt er aus, wie sich zunächst Digitalisierung allgemein und nun insbesondere KI auswirken. Und warum diese Technologie so verlockend ist sowohl für kapitalistische wie auch für bürokratische Tendenzen. Mehr Daten schneller zu verarbeiten, genauere Vorhersagen zu treffen und Maschinen sogar Entscheidungen zu übertragen, helfe einerseits, die Effizienz zu steigern, und andererseits, Verhalten noch viel genauer zu steuern, zu kontrollieren und entsprechende Anreize zu setzen. Binswanger spricht passend von Controlling-Bürokratie. Und argumentiert, dass sich hier die Interessen des Staates und der Wirtschaft durchaus entsprechen: "Die Wirtschaft möchte möglichst berechenbare und steuerbare, normierte Dauerkonsumenten. Und der Staat möchte möglichst berechenbare Steuerzahler, die als normierte Gutmenschen keine Schwierigkeiten machen und alle staatlichen Pflichten ohne Murren akzeptieren. Im Idealfall lässt sich dieses gemeinsame Interesse von Wirtschaft und Staat über Synergieeffekte nutzen."
In ihrem Buch "Automated Democracy - Die Neuverteilung von Macht und Einfluss im digitalen Staat" gehen wiederum der Ökonom Bruno S. Frey und der Jurist Christian R. Ulbrich der Frage nach, wie die durch KI beschleunigte und wirkmächtigere Digitalisierung das politische System beeinträchtigen könnte. Sie entwerfen durchaus düstere Szenarien, warnen etwa ausdrücklich davor, dass aus Demokratien "digitale Autokratien" werden oder zumindest "stark paternalistische Kontrollstaaten". Auch sie verweisen, ganz ähnlich wie Binswanger, auf die Feinsteuerungs- und Regelungsmöglichkeiten, die sich mittels KI und noch mehr Daten ergeben könnten - und dies zudem zu erschwinglichen Kosten. Frey und Ulbrich zeigen dabei ein aus ihrer Sicht bestehendes Dilemma auf: Die Digitalisierung des Staates halten sie für unausweichlich und letztlich eben auch wünschenswert, weil sich nur so die durch Vernetzung komplexer gewordene Welt überhaupt auf Dauer erfassen und verwalten lasse. Auf immer mächtigere und kompetentere Algorithmen zu verzichten, halten sie in diesem Sinne für fahrlässig und im Grunde eben für schlicht nicht möglich. Sie führen währenddessen nebenbei in die Theorie der Politischen Ökonomie, der Plattformökonomie und der Digitalisierung ein. Und sie illustrieren immer wieder an ausgewählten Beispielen, wie sich das konkret äußert.
Sowohl das Autorenduo Frey/Ulbrich als auch der Solist Binswanger unterbreiten Vorschläge, wie sich den von ihnen dargestellten Gefahren vorbeugen ließe. Binswanger verlangt konkret, das Bargeld zu erhalten und niemanden zu zwingen, Gesundheits-Apps, smarte Häuser oder Autos zu nutzen - und so aus seiner Sicht nötige Autonomie zu gewährleisten. Frey/Ulbrich sind abstrakter und plädieren beispielsweise für bestimmte Design-Eigenschaften von Algorithmen. Dass sie alle aus der Perspektive der föderalen, freiheitlichen Schweiz darauf blicken, ist erfrischend. Beide Bände bereichern die Debatte und heben sich wohltuend von der ja ebenfalls existierenden düsteren KI-Apokalyptik ab. ALEXANDER ARMBRUSTER
Mathias Binswanger: Die Verselbstständigung des Kapitalismus - Wie KI Menschen und Wirtschaft steuert und für mehr Bürokratie sorgt, Wiley-VCH, Weinheim 2024, 288 Seiten, 26 Euro.
Christian Ulbrich und Bruno Frey: Automated Democracy - Die Neuverteilung von Macht und Einfluss im digitalen Staat, Herder Verlag, Freiburg 2024, 384 Seiten, 26 Euro.
Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main