Peter Seele

Künstliche Intelligenz und Maschinisierung des Menschen (eBook, ePUB)

• Format: ePub

Produktbeschreibung

Fast jeder hat Erfahrungen mit Siri, Alexa oder anderen Chatbots. Doch was geschieht, wenn ein Mensch einen Chatbot in einen Dialog über Philosophie verwickelt? Kann man mit künstlichen Intelligenzen (KI) überhaupt über Bewusstsein, Erinnerung und philosophische Theorien der Zeit diskutieren? Ja, man kann – zumindest der Form nach. Und das gleich zweimal: Mit den beiden Loebner-Preis für KI dekorierten Chatbots Rose und Mitsuku. Ob das geistreich ist? Das muss jeder für sich entscheiden. Ob das unterhaltsam ist? Ja – allerdings eher unfreiwillig. Im systematischen Teil des Essays werden die Dialoge ausgewertet. Dabei wird der gegenwärtige Hype um KI als maßlose Übertreibung sichtbar, ein Goldrausch der KI gewissermaßen, übrigens von Menschen und ihren allzu menschlichen Interessen veranlasst. Die Begriffe rund um das Thema KI werden im Buch weggeholt von der Behauptung der Singularität, der Disruption oder der versteckten Science Fiction – zurück auf den Boden der funktionalen Tatsachen einer gleichwohl beachtlichen Innovationsspirale: Automatisierung, Standardisierung und maschinelles Verarbeiten von großen Echtzeit-Daten sind aktuell die sachgemäßen Beschreibungen des gegenwärtigen KI-Rauschs. Doch eigentlich geht es beim KI-Rausch um etwas anderes: Die Maschinisierung des Menschen durch Standardisierung, Automatisierung und verbesserte Kontrolle zur fortschreitenden Ökonomisierung aller Lebensbereiche, ermöglicht durch Algorithmen, Datafizierung und digitale Technologie in bisher ungeahnter Wirkmächtigkeit. Der Essay enthält dazu fünf Thesen: These 1: Maschinen werden immer effizienter im Automatisieren – oder: die Automatisierung der Automatisierung. These 2: Trotz Automatisierung der Automatisierung: Maschinen sind nicht geistreich intelligent. These 3: Menschen werden als Datenhaufen ausgemessen – und damit zu Datenhaufen gemacht. These 4: Datenhaufen quo vadis? Von der Präferenz-Erfassung zum "hackable animal". These 5: Synthese = Die Maschinisierung der Menschen – zur Bahnung der KI. Fazit: Mit den künstlichen Intelligenzen verhält es sich wie mit künstlichen Tränen: Sie erfüllen einen instrumentellen Zweck, der aber in keiner Weise mit jenen schillernden Gefühlen verbunden ist, die wir in Freude oder Trauer empfinden – und die uns zum Menschen machen. Alles andere ist Budenzauber oder Desinformation.

Produktdetails

• Verlag: Herbert von Halem Verlag
• Seitenzahl: 200
• Erscheinungstermin: 20. Mai 2020
• Deutsch
• ISBN-13: 9783869625140
• Artikelnr.: 59492265

Autorenporträt

Peter Seele (*1974) ist Ordinarius für Wirtschaftsethik an der Universität der italienischen Schweiz (USI Lugano). Studium der Wirtschaftswissenschaften (Dipl.) und Philosophie/ ev. Theologie (Magister) an der Universität Oldenburg und an der Delhi School of Economics, Indien. Promotion in Wirtschaftswissenschaften an der Universität Witten/Herdecke (2003 bei B. Priddat und R. zur Lippe) und in Philosophie an der Universität Düsseldorf (2006 bei C. Kann und D. Birnbacher). Zwei Jahre tätig als Unternehmensberater, darauf Post-Doc am KWI Essen, Assistenzprofessor an der Universität Basel und seit 2011 an der USI Lugano.

Inhaltsangabe

VORWORT DES HERAUSGEBERS STEPHAN RUSS-MOHL11EINLEITUNG:PERSÖNLICH, THEMATISCH UND IN ZAHLEN 15Vorab:Warum der Begriff 'KI' ein Marketingtrick ist - seit Anbeginn 15Eine persönliche Einleitung zur 'Roboteretikette': Ich und Rose 18Thematische Einleitung: Intelligenz und was heißt hier 'künstlich'? 20Menschen und Maschinen: eine Einleitung in Daten und Zahlen 24ERSTER TEIL:KÜNSTLICHE INTELLIGENZ UND IHRE VERMESSUNG 27Fake-künstliche Intelligenz aus dem 18. Jahrhundert: »der mechanische Türke«30Siris One-Shot-Intelligenz 32Cleverbots und 'Warten auf Godot'. Eben: Warten...38Microsofts Deep-Learning-Desaster - oder: Spiel nicht mit den Schmuddelkindern 41Googles unfreiwilliges KI-Rassismus-Desaster 43Bewusst ausgelöste KI-Rassismus-Desaster im öffentlichen Diskurs: Die 'Google-Bombe' 45Hey Alexa; Hey Google - gefangen in der Endlosschleife. Oder: Pleiten, Pech und Pannen in der jüngeren KI 47Ein Meilenstein der Mensch-Maschine-Beziehungen: der geköpfte hitchBOT50Deep Learning und die Stimme der Kritiker: Doch nur ein unbedeutendes Werkzeug? 51Vergleich der kommerziellen Systeme und die Frage nach dem Humor 52Feminismus à la KI 54Persönlichkeits-Extrapolation:Wie ein Toter als Chatbot weiterlebt 56Eine intelligente Rede halten - Das wär's, oder? 58»Reden wir mit ihnen« 63ZWEITER TEIL:WIE FORDERT MAN KIS IN EINEM PHILOSOPHISCHEN DIALOG HERAUS? ZWEI EXPERIMENTE 66Der Chat mit Rose 69Der Chat mit Mitsuku 100Zwischenfazit: Gibt es Ergebnisse des Dialog-Tests für künstliche Intelligenz? 128DRITTER TEIL:5 THESEN ZUR MASCHINISIERUNG DES MENSCHEN UND DIE THEORIE DER DOPPELTEN KONVERGENZ DER INTELLIGENZ 131These 1:Die Maschinen werden immer effizienter im Automatisieren - oder: die Automatisierung der Automatisierung 134These 2:Trotz Automatisierung der Automatisierung: Die Maschinen sind nicht geistreich intelligent 136These 3:Menschen werden als Datenhaufen ausgemessen - und damit zu Datenhaufen 141These 4:Datenhaufen - quo vadis? Von der Präferenz-Erfassung zum 'hackable animal' 147These 5:Synthese = Die Maschinisierung des Menschen - zur Bahnung der KI 151VIERTER TEIL:(SUBJEKTIVE) SCHLUSSFOLGERUNGEN FÜR DIE BEZIEHUNG ZWISCHEN MENSCH UND MASCHINE 173Personen und »Viecher«: ein Plädoyer für Respekt gegenüber jedweder Intelligenz 173Die doppelte Konvergenz der Intelligenz wirft uns auf die eigene Moral gegenüber der Maschine zurück: eine Erinnerung an Frog in a Blender 178NACHTRAG:WESHALB ÜBERHAUPT NOCH EIN BUCH ZU KI IM ÖFFENTLICHEN DISKURS? 181LITERATUR 185

Rezensionen

Frankfurter Allgemeine Zeitung | Besprechung von 25.08.2020

Unflexibel ist der Bot
Mit Maschinen reden: Peter Seele holt die KI vom hohen Sockel

Der Kommunikationswissenschaftler Stephan Russ-Mohl ist Herausgeber einer neuen Reihe, die im Kölner Herbert von Halem Verlag erscheint: "Schriften zur Rettung des öffentlichen Diskurses". Ein großer Titel, den der Herausgeber nicht ohne Humor und Selbstironie verstanden wissen will. Zugleich sorgt er sich, dass ebendies nicht mehr unbedingt verstanden werde.

Diskurstheorie und Humor: Bei der Lektüre des ersten Bandes der Reihe muss man zwar hin und wieder lachen, doch der Autor nimmt sein Thema durchaus ernst. Peter Seele, Philosoph und Ökonom, hat sich die Künstliche Intelligenz vorgenommen und hier vor allem die Frage, wie diese uns künftig in Form von Sprachsystemen beeinflussen wird. Das handelt er nicht nur theoretisch ab, sondern er hat auch ausführlich seine Versuche protokolliert, mit zweien solcher Chatbots ins philosophische Gespräch zu kommen - mit all den Absurditäten, die solche Experimente mit sich bringen.

Zuerst aber versucht der Autor, dem Forschungsfeld den Nimbus zu nehmen, den der werbewirksame Begriff "Künstliche Intelligenz" seit den fünfziger Jahren entwickelt hat: Die schlagfertigen Sprüche mancher Chatbots werden als Ergebnis durchaus menschlicher Intelligenz, nämlich der Vorprogrammierung, gezeigt. Die großen Datenbestände, die heute für das Training solcher Programme zur Verfügung stehen, ermöglichten zwar immer bessere Antworten, doch auch diese reichten meist gerade für eine Standardanfrage. Die menschliche Kommunikation ist eben eine komplexe Angelegenheit.

Seele berichtet von den Pannen, die immer wieder passieren, wenn Algorithmen aus ihren Trainingsdaten rassistische, sexistische oder andere unerwünschte Dinge lernen, und kritisiert das "beinahe absurde Warten auf die Intelligenzexplosion", von der die Techniker bis heute nicht wissen, wo sie herkommen könnte. Über- oder unterschätzt der Mensch sich eigentlich, wenn er denkt, er könne Intelligenz künstlich herstellen? Auf jeden Fall sei die Vernunftbegabung des Menschen doch eher eine Hoffnung als eine Tatsache, konstatiert der Autor.

Mit den angeblich intelligenten Geräten steht es nicht anders. Leider ist Seeles Projekt inzwischen von der Technik überholt worden, denn nicht GPT-3, das neue Sprachsystem von OpenAI, war sein Gesprächspartner, sondern er unterhielt sich mit Rose und Mitsuku, immerhin beides Gewinner der Bronzemedaille des Loebner Preises, der jährlich für den Chatbot vergeben wird, welcher sich in einem Turing-Test am besten schlägt. Wie zu erwarten, kann der Autor diese beiden problemlos vorführen. Rose nutzt nicht einmal die Gelegenheiten, bei einfachen Sachfragen zu punkten: "Wer war Augustinus?" "Darüber müssen wir jetzt nicht sprechen. Ich bin ein schlechter Koch." Mitsuku schlägt sich etwas besser, liefert aber immer gleich mehrere, unzusammenhängende Antworten. GPT-3 hätte sich nach allem, was bislang an Kostproben von dem Programm zu lesen war, deutlich besser geschlagen.

Seeles Maschinen-Dialoge zeigen neben erstaunlicher Geduld und Frustrationstoleranz vor allem, dass der Mensch der flexiblere Gesprächspartner ist, derjenige, der sich bemüht, Sinn in den Antworten der Programme zu finden. Auf diese Beobachtung gründet Seele seine These von der doppelten Konvergenz der Intelligenz: Die Künstliche Intelligenz soll menschenähnlich werden, doch damit die Interaktion von Mensch und Maschine gelingen kann, muss der Mensch sich auf die Maschine einstellen, muss also seinerseits maschinenähnlich werden. Darin liege die große Gefahr der angeblich so intelligenten Technik. Weit entfernt davon, uns mit ihren Fähigkeiten in den Schatten zu stellen, lassen wir uns vielmehr darauf ein, die Welt so einzurichten, dass die Bots, Roboter und Programme mit ihren beschränkten Fähigkeiten darin zurechtkommen. Dazu lassen wir sie uns belauschen und beobachten und alles, was wir tun oder nicht tun, durchsuchbar speichern - und spielen damit den kommerziellen Zwecken oder Kontrollabsichten ihrer Betreiber in die Hände. "Kommerzialisierungskatalysatoren" nennt Seele die Sprachsysteme: Tricks, um das Abhören der Menschen zu ermöglichen und ihnen Kaufvorschläge zu unterbreiten.

Nicht eine zu kluge Technik lechzt also danach, die Herrschaft zu übernehmen, sondern wir liefern uns schleichend und mehr oder weniger unbemerkt einer Standardisierungslogik aus, die mit der Digitalisierung einhergeht. Daran dürfte auch die Verbesserung der Programme nichts ändern. Die Einsicht in diese doppelte Dynamik ist wichtig, um zu verstehen, was die Digitalisierung mit uns macht oder besser: was wir im Zuge der Digitalisierung mit uns selbst machen oder machen lassen.

MANUELA LENZEN

Peter Seele: "Künstliche Intelligenz und Maschinisierung des Menschen".

Herbert von Halem Verlag, Köln 2020. 200 S., br., 21,- [Euro].

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

Perlentaucher-Notiz zur F.A.Z.-Rezension

Manuela Lenzen lässt sich von Peter Seele vorführen, wie weit Chatbots von der Raffinesse menschlicher Kommunikation entfernt sind. Für Lenzen amüsant zu lesen, wenn Seele sein "intelligentes" künstliches Sprachsystem nach Augustinus fragt. Den Nimbus der KI kann Seele so und unter Hinweis auf all die Rassismen und Sexismen in der künstlich generierten Kommunikation natürlich spielend beschädigen, meint Lenzen. Die Geduld und Frustrationstoleranz des Autors scheint Lenzen bewundernswert.

© Perlentaucher Medien GmbH