Helga Nowotny

Die KI sei mit euch

Macht, Illusion und Kontrolle algorithmischer Vorhersage
Übersetzung:Wolf, Sabine

• Broschiertes Buch

Produktbeschreibung

Las man in früheren Zeiten im Vogelflug oder in den Eingeweiden von Tieren, um sich die Angst vor dem, was kommen mag, zu nehmen, erlauben uns heute Algorithmen einen nahezu unfehlbaren Blick in die Zukunft. Doch das Vertrauen in das prognostizierende Vermögen von künstlicher Intelligenz birgt Risiken und lässt allzu schnell ein fatalistisches Bild entstehen: Indem wir uns der technologischen Mittel bedienen, um die Kontrolle über Zukunft und Ungewissheit zu erhöhen, büßen wir zusehends unsere Handlungs- und Gestaltungsfähigkeit und also auch Kontrolle ein - Vorhersagen werden zu Bestimmungen, Möglichkeiten zu Richtwerten und der Mensch wird auf die Rolle des bloßen Erfüllungsgehilfen reduziert. Damit dies nicht zur selbsterfüllenden Prophezeiung wird, gilt es, sich daran zu erinnern, dass es der Mensch ist, der die digitalen Technologien geschaffen hat, denen er Wirkmacht zuschreibt. Es gilt, wie Helga Nowotny mit bestechendem Optimismus nachweist, sich der eigenen Wirkmacht bewusst zu werden und eine Zukunft zu ermöglichen, die zu gleichen Teilen aus menschlichem Geist und mechanischen Geräten besteht.

Produktdetails

• Verlag: Matthes & Seitz Berlin
• Originaltitel: In Al we trust
• 1. Auflage
• Seitenzahl: 287
• Erscheinungstermin: 3. August 2023
• Deutsch
• Abmessung: 205mm x 121mm x 25mm
• Gewicht: 295g
• ISBN-13: 9783751803960
• ISBN-10: 3751803963
• Artikelnr.: 66781366

Autorenporträt

Helga Nowotny, 1937 in Wien, ist emeritierte Professorin der ETH Zürich. Ihre interdisziplinären Forschnungsschwerpunkte bewegen sich im Feld der Wissenschaftsforschung. Für 2018 wurde Nowotny die Leibniz-Medaille der Berlin-Brandenburgischen Akademie der Wissenschaften zugesprochen.

Rezensionen

Perlentaucher-Notiz zur F.A.Z.-Rezension

Dass dieser Band von Helga Nowotny zu einem Thema, das von rasanten Entwicklungen geprägt ist, im englischen Original schon zwei Jahre alt ist, erweist sich für die Rezensentin Sibylle Anderl am Ende eher als Qualität. Sie lobt vor allem zwei Eigenschaften: das essayistisch Offene, das auch für die neuesten Fragen zum Thema ausreichend Hallraum biete, und Nowotnys "äußerst differenzierte" Sicht auf Künstliche Intelligenz, die sowohl von Alarmismus als auch Spekulation weit entfernt zu sein scheint. Als Nowotnys Hauptanliegen zum Thema skizziert die Rezensentin vor allem ihre Idee eines "digitalen Humanismus", und die meint, dass die von uns selbst in Gang gesetzten Algorithmen stets von einem menschlichen Standpunkt aus gedacht sein sollten, denn sonst liefen wir Gefahr, zu Zauberlehrlingen zu werden und uns den Urteilen einer Künstlichen Intelligenz, die wir selbsterfunden haben, unterwerfen zu müssen. Nachdenken über Künstliche Intelligenz, so Anderl, heißt darum Nachdenken über die Frage, "was Menschsein eigentlich bedeutet". Bei Nowotny hat sie zum Thema viele Anregungen gefunden.

© Perlentaucher Medien GmbH

Frankfurter Allgemeine Zeitung | Besprechung von 14.10.2023

Kontrollverlust für eine menschliche Zukunft

Leben und Arbeiten in einer von KI geprägten Welt: Helga Nowotny formuliert Maximen für den Umgang mit digitalen Technologien.

Von Sibylle Anderl

Von Sibylle Anderl

Es kann einem schwindelig werden beim Versuch, die derzeitigen Entwicklungen im Feld der Künstlichen Intelligenz zu verfolgen und sie in ihren kulturellen und gesellschaftlichen Implikationen auch nur annähernd angemessen einzuordnen. Zu schnell folgen die vermeldeten Durchbrüche aufeinander, zu wenig transparent sind die zugrunde liegenden Mechanismen, zu kontrovers die resultierenden Potentiale und konkreten Grenzen der Modelle. Kaum ein anderes wissenschaftliches Forschungsfeld unterliegt derzeit einer derart atemberaubenden Dynamik. Und kaum ein anderes Feld zeigt wohl in seinen Diskussionen eine solche Aufspaltung: einerseits diejenigen, die tiefes inhaltliches Verständnis mit einer engen technokratischen Fachperspektive kombinieren, und andererseits diejenigen, die mit einem sozialpolitisch weiten Blick versuchen, irgendwie Anschluss an eine sich ständig verändernde Sachlage zu halten - oft ohne im Detail wirklich folgen zu können.

Eine Überwindung dieses Grabens erfordert es, sich an den großen kulturellen Linien und Denkfiguren zu orientieren, die technologische Entwicklung und deren gesellschaftlichen Kontext zusammenbringen und verbinden können. Die Wissenschaftsforscherin Helga Nowotny hat sich in ihrem 2021 auf Englisch und nun in deutscher Übersetzung erschienenen Buch "Die KI sei mit euch" dieser Herausforderung gestellt, nachdem auch sie von der existierenden Literatur zu dem Thema enttäuscht war. Als "überwiegend kurzfristig und ahistorisch, oberflächlich und meist spekulativ" habe sie diese wahrgenommen, schreibt sie in der Einleitung.

Die emeritierte Professorin der ETH Zürich und ehemalige Präsidentin des Europäischen Forschungsrats versucht dagegen, Künstliche Intelligenz nicht nur mit anderen großen Veränderungsprozessen unserer Gegenwart, allen voran der Klimakrise, zusammenzudenken, sondern sie gleichzeitig mit unserer menschlich-historischen Selbstsicht abzugleichen.

Das beginnt mit unserer Zeitwahrnehmung, die laut Nowotny durch digitale Technologien grundlegend verändert wurde: In nichtlinearer Weise wirkt heute wissenschaftlich erschlossene, entfernteste Vergangenheit in unsere Gegenwart hinein und eröffnet uns die Konstruktion neuer Bedeutungshorizonte. Gleichzeitig erscheint unsere Gegenwart digital oft kleinteilig verdichtet. Immer größere Anstrengungen sind nötig, um aus diesen Teilen ein bedeutsames Ganzes zu erzeugen. Und auch unsere Wahrnehmung der Zukunft hat sich unter dem Einfluss der Algorithmen grundsätzlich verändert: Ihre ursprüngliche Offenheit wird durch unseren Versuch gefährdet, sie durch Prognosewerkzeuge zu kontrollieren - denn sofern wir an diese Prognosen zu sehr glauben, kontrollieren sie uns selbst. Die Folgen sind fatal: Wir berauben uns so unserer eigenen Freiheit.

Nowotny sieht hier eine merkwürdige Analogie zwischen unserem Umgang mit algorithmischen Vorhersagen und dem Leben unserer Vorfahren in einer von Göttern durchwirkten Welt, deren Mächten die Menschen ausgeliefert waren. Wenn wir aufhören, von Algorithmen Rechenschaft zu fordern und sie nach Gründen für ihre Urteile zu befragen, laufen wir laut Nowotny Gefahr, die Selbstbestimmtheit wieder aufzugeben, die in der Aufklärung mühsam erkämpft wurde.

Stattdessen fordert Nowotny, die Existenz der digitalen "Spiegelwelt" mit Avataren und künstlichen Objekten als Einladung zu nutzen, uns selbst in unseren sozial konstruierten, relationalen Identitäten zu reflektieren. Betroffen ist damit die fundamentale Frage, was Menschsein eigentlich bedeutet, denn während wir Algorithmen "domestizieren", domestizieren wir uns durch sie gleichzeitig auch selbst. Die ernst genommene Frage nach dem Kern des Menschseins führt für Nowotny zu einem digitalen Humanismus: Wenn Algorithmen und KI-Systeme dem Menschen dienen sollen, dann müssen menschliche Werte und Sichtweisen ihren Ausgangspunkt bilden.

Damit zusammen hängt auch die von Nowotny diagnostizierte Notwendigkeit für ein neues Narrativ der Gegenwart: Das technologisch angetriebene Fortschritts- und Wachstumsnarrativ stößt heute angesichts eines zunehmend ausgebeuteten Planeten an seine Grenzen. Es ist deutlich geworden, dass technischer Fortschritt nicht notwendig sozialen Fortschritt impliziert. Uns ist damit die Vorstellung einer linear vorgezeichneten Entwicklung hin zum Besseren verloren gegangen. Ein neues Narrativ, so Nowotny, müsse Verantwortung und die Grenzen menschlicher Kontrolle umfassen.

Nowotny nennt die Eigenschaft, die Grundlage für eine solch menschliche Gestaltung der Zukunft sein kann, "Weisheit". Sie beruht auf der Fähigkeit, vergangenes Erfahrungswissen für die Gegenwart fruchtbar zu machen, soziale und kulturelle Kontexte zu sehen, sich auf Mehrdeutigkeiten einlassen zu können und Ungewissheit und Kontrollverlust auszuhalten. Wer das vermag, ist im Umgang mit KI gegen Fehleinschätzungen besser gewappnet, kann deren Grenzen sehen und beurteilen, welchen politischen und wirtschaftlichen Kräften die Künstlichen Intelligenzen dienen.

Helga Nowotny demonstriert in ihrem Buch eine äußerst differenzierte Sicht auf Künstliche Intelligenz und digitale Technologie, die Gefahren wie Potentiale gleichermaßen anerkennt. Die essayistische Versammlung multidisziplinärer Gedanken und Bezüge liefert an vielen Stellen zwar eher Anregungen und Skizzen als ausformulierte Antworten. Für den notwendigen Dialog zwischen den zwei Kulturen, der naturwissenschaftlich-technologischen und der sozial- und geisteswissenschaftlichen, mag dies jedoch zum einen genau die erforderliche Offenheit bieten. Zum anderen schützt es das Buch vor der bei diesem Thema großen Gefahr des Veraltens. Denn obwohl seine ursprüngliche Veröffentlichung noch vor dem Siegeszug von ChatGPT erfolgte und lediglich das deutsche Vorwort diese Entwicklung aufgreift, ändert das nichts an der Aktualität der Gedanken. Nowotnys Überlegungen zur Frage, wie wir Menschen in einer digitalen Welt leben können und wollen, liefern vielmehr einen erstaunlich überzeitlichen Rahmen, der uns in der gegenwärtigen Hektik der KI-Durchbrüche den nötigen Raum für kritisches Denken eröffnet.

Helga Nowotny: "Die KI sei mit euch". Macht, Illusion und Kontrolle algorithmischer Vorhersage.

Aus dem Englischen von Sabine Wolf. Matthes & Seitz Verlag, Berlin 2023. 287 S., br., 25,- Euro.

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main