Rezension des Buches „Klick – Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen“, von Inge Lütje
Gerd Gigerenzer, der Autor des Buches „Klick – Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen“, ist Professor für Psychologie, Direktor emeritus am Max-Planck-Institut für Bildungsforschung, Direktor des Harding-Zentrums für Risikokompetenz an der Universität Potsdam, Mitgründer des privaten Instituts „Simply Rational“, das Organisationen und Unternehmen bei der Entscheidungsfindung berät, und Autor mehrerer populärwissenschaftlicher Bücher. Für seine umfangreichen Tätigkeiten erhielt er zahlreiche internationale Auszeichnungen.
Das Buch besteht aus drei Teilen mit den Überschriften: „Einleitung“ (19 S.), „Der Mensch und die KI“ (152 S.), „Es steht viel auf dem Spiel“ (156 S.) und einem Anhang mit Anmerkungen, Literaturliste, Personen- und Sachregister (62 Seiten).
In der Einleitung formuliert Gigerenzer seinen Anspruch: Er habe dieses Buch für eine breite Öffentlichkeit geschrieben, „um die Leser in die Lage zu versetzen, realistisch einzuschätzen, was KI leisten kann und wie sie verwendet wird, um uns zu beeinflussen“ (S. 24). Es sei „als Hilfe für die Bewältigung der Herausforderungen in einer smarten Welt gedacht“ (S. 25). Gigerenzer sieht „die Gefahr, dass wir […] es staatlichen Autoritäten oder Tech-Unternehmen überlassen, unser Leben nach ihren Bedingungen zu ‚optimieren‘“ (S. 25). Er setzt dagegen ein positives Menschenbild: Seine Forschung habe ihn in der tiefen Überzeugung bestärkt, „dass wir Menschen nicht so dumm und unfähig sind, wie häufig behauptet wird – solange wir aktiv bleiben und von unserem Gehirn und unseren anderen Fähigkeiten Gebrauch machen, die im verwickelten Verlauf der Evolution entstanden sind“ (S. 25). Am Ende der Einleitung steht „ein leidenschaftlicher Appell, hart erkämpfte Errungenschaften wie persönliche Freiheit und Demokratie am Leben zu erhalten“ (S. 25). „Trotz – oder wegen – der schnellen technologischen Innovationen sind wir mehr als jemals zuvor aufgefordert, mitzudenken statt einfach mitzumachen“ (S. 26), und er verweist auf die Gefahr, dass „die Digitalisierungstechnologie leicht den Ausschlag für die autokratischen Systeme geben“ (S. 26) könne.
Wird Gigerenzer diesem Anspruch bzw. diesen Ansprüchen – Information über die Technologie und wirtschaftliche/finanzielle Interessen, intellektuelle und emotionale Stärkung, Anregung zum Mitdenken und zur Übernahme von Verantwortung zum Erhalt unserer Demokratie – gerecht?
Für den Leser überraschend beginnt der Autor mit einem sehr „menschlichen“ Thema, der Partnersuche mithilfe von Online-Datingseiten. Er entzaubert mit seinen Ausführungen nicht nur deren Versprechungen, indem er mit vielen Beispielen und Zahlen darlegt, wie „Liebesalgorithmen“ (S. 34) funktionieren und mit welchen Tricks die Agenturen arbeiten, um die Interessenten auf ihren Seiten zu halten, sondern weist auch auf den massenhaften Betrug mit zum Teil hohen finanziellen Einbußen für die Nutzer hin. Ebenso wichtig ist ihm zu betonen, dass unsere emotionalen Fähigkeiten verarmen würden, wenn wir Algorithmen und damit Maschinen über unsere Liebesfähigkeit entscheiden lassen.
Bereits mit diesem Beispiel wird Gigerenzer seinem Anspruch gerecht: Er informiert darüber, wie die Online-Partnerbörsen funktionieren, wer die Gewinner sind und auf wessen finanzielle und emotionale Kosten das geschieht. Es geht ihm um die Freiheit und Würde des Menschen. Diese Komplexität in der Beschreibung und Beurteilung zeigt sich im gesamten Buch.
Im zweiten Kapitel erläutert Gigerenzer sorgfältig Stärke und Grenzen von Künstlicher Intelligenz: „Komplexe Algorithmen arbeiten am zuverlässigsten in wohldefinierten, stabilen Situationen, in denen große Datenmengen zur Verfügung stehen“ (S. 57). In Situationen der Ungewissheit hingegen reiche Rechenleistung nicht aus; „stattdessen brauchen wir Urteilsfähigkeit, Intelligenz, Intuition und den Mut, Entscheidungen zu fällen“ (S. 59). Der Autor veranschaulicht diese beiden Thesen unter anderem am Schachspielen, der Gesichtserkennung, den Therapien für Krebspatienten und den elektronischen Patientenakten. An späterer Stelle schreibt er: „KI ist immer von Menschen entwickelte und vermarktete KI. Und der Glaube, dass reine Computerleistung und smarte Algorithmen von sich aus eine bessere medizinische Versorgung zustande brächten, ist eine Illusion“ (S. 326).
Ein langes Kapitel (32 Seiten) widmet der Autor der Frage: „Sind selbstfahrende Autos zum Greifen nah?“ (S. 97), die er detail- und kenntnisreich mit vielen Beispielen (auch aus den USA, China, Japan) und Farbtafeln überzeugend verneint. Dabei geht er auch auf ethische Probleme ein und führt aus, dass moralische Dilemmata – „Wen sollte das Auto töten?“ (S. 115) – in verschiedenen Kulturen unterschiedlich gelöst werden. Statt die Städte immer mehr den selbstfahrenden Autos anzupassen, verweist er als eine mögliche Alternative auf schon bestehende fahrradfreundliche Städte (z.B. Amsterdam, Kopenhagen, Utrecht) und an Beispielen aus China und Japan auf einen „intelligenten öffentlichen Personenverkehr“ (S. 125).
Ein grundlegendes Kapitel für das Verständnis der Leistung von Künstlicher Intelligenz ist das fünfte, in dem Gigerenzer die fundamentalen Unterschiede zwischen menschlicher Intelligenz, die er – für den Leser zunächst überraschend – mit gesundem Menschenverstand gleichsetzt, und der „Intelligenz“ von Computern entwickelt und zu dem Schluss kommt, „dass die künstliche Intelligenz neuronaler Netze von der menschlichen völlig verschieden ist“ (S. 150), was ihrer scheinbaren Überlegenheit Grenzen setzt und sogar fatale Folgen für unser Leben haben kann, wenn z. B. „Systeme automatisch Entscheidungen über Leben und Tod treffen dürfen, wie militärische Drohnen, Robotersoldaten und andere autonome Waffen von tödlicher Wirkung“ (S. 154), denn: „Eine Maschine weiß vielleicht genau, wie sie töten kann, aber sie weiß nicht, was sie tut und warum“ (S. 154) – ihr fehle Bewusstsein.
In den Kapiteln 6 und 7 stellt Gigerenzer den Nutzen der Big-Data-Analytik infrage, die auf immer komplizierteren Algorithmen auf der Grundlage von unsicheren Datensammlungen beruhe, um Vorhersagen zu machen z. B. über die Ausbreitung von Grippe, die Kreditwürdigkeit von Menschen, den Einfluss von Werbekampagnen und die Risikoberechnung für Verursacher von Autounfällen und für kriminelles Verhalten. Im Mittelpunkt seiner Kritik steht der Blackbox-Algorithmus, „ein Algorithmus, der nicht transparent ist, entweder weil er geheimgehalten wird oder weil er so kompliziert ist, dass ihn die Nutzer nicht verstehen können. Je nach Land verschieden, beeinflussen geheime Algorithmen das Leben vieler Bürger, indem sie unter anderem über Bewährung, Kaution, Strafmaß, Sozialhilfe, Kredite und Kreditwürdigkeit entscheiden“ (S. 186). Neben dem Kredit-Scoring komme dem Sozialkreditsystem, mit dem das Verhalten der Menschen beeinflusst werden könne, eine immer größere Bedeutung zu. Es werde heute schon bei mehr als einer Milliarde Menschen angewendet: „Dem Beispiel China folgend, haben verschiedene Staaten in Asien, Südamerika und Afrika – unter anderem Thailand, Myanmar, Vietnam, Venezuela und Tansania – Sozialkreditsysteme für Einzelpersonen und Unternehmen eingeführt oder ihre Absicht bekundet, dieses zu tun“ (S. 226).
Er und weitere Mitglieder im Sachverständigenrat für Verbraucherfragen forderten schon 2018, „alle Blackboxes, die zum Scoring von Menschen verwendet werden und schwerwiegende Konsequenzen in ihrem Leben haben, für die Allgemeinheit transparent zu machen und einer Qualitätskontrolle zu unterwerfen“ (S. 219), und kommt zu dem Schluss, dass Big Data nur in Situationen nützlich sei, „in denen Stabilität herrscht, die Daten zuverlässig sind und die Suche theoriegeleitet ist“ (S. 180). An einem dem politisch interessierten Leser vertrauten Ereignis, dem verlorenen Wahlkampf von Hillary Clinton im November 2016, bei dem Big Data völlig versagt hatte, macht er deutlich, dass einfache Algorithmen zu einer sicheren Vorhersage des Wahlgewinners geführt hätten. Er schließt mit einem polemischen Rat an die politischen Parteien: „Konzentriert euch auf das Regieren, nicht auf teure Werbung und Wahlkampfstrategien“ (S. 218).
Eindringlich weist Gigerenzer auch auf die Überwachung durch die Akzeptanz von Cookies hin. Als diese in den 1990er Jahren entwickelt wurden, forderten viele aus Sorge um den Datenschutz eine gesetzliche Regulierung. Doch der Terroranschlag 2001 habe „zu einer nie dagewesenen Zusammenarbeit zwischen Google und den US-Geheimdiensten, vor allem mit der NSA“ (S. 243) geführt. Überall da, wo wir Cookies akzeptieren, würden Daten über uns gesammelt, die dann von sogenannten Datenmaklern wie Acxiom und Oracle Data Cloud zu persönlichen Profilen zusammengestellt und z. B. an „Banken, Versicherer, Kreditkartenausgeber und Regierungen“ (S. 230) verkauft würden zusammen mit E-Mail- und IP-Adressen, Telefonnummern und Postanschrift. Dadurch entstehe der „Überwachungskapitalismus“ (S. 241 ff.). Sein Lösungsvorschlag ist so einfach wie plausibel: „Das Geschäftsmodell der Überwachung kann nur beendet werden, wenn die Tech-Unternehmen eine Gebühr für ihre Dienste erheben. Das wäre der Schlüssel, die Privatsphäre zu retten und einer Zukunft mit kommerzieller Überwachung zu entgehen, die leicht in eine staatliche Überwachung abgleiten könnte“ (S. 246 f.). Hier sei der Gesetzgeber gefordert, denn in Umfragen hätten die Nutzer dieser Dienste sich zwar um ihre Privatsphäre gesorgt, seien aber nicht bereit, einen Cent dafür zu bezahlen. Seine Aufforderung lautet: „Zahlen Sie mit Ihrem Geld, nicht Ihrer Privatsphäre“ (S. 240)!
Unter der warnenden Überschrift „Schlafwandelnd in die Überwachung“ (S. 249) informiert Gigerenzer über weitere schon vorhandene technische Errungenschaften, mit denen wir als Konsumenten unsere Freiheit und Privatsphäre aufgeben, und er beschreibt am chinesischen Beispiel drei Phasen eines Szenarios für die flächendeckende Einführung des Überwachungskapitalismus, den er als „schwere[n] Schlag für die Ideale von Privatsphäre, Würde und Demokratie“ (S. 271) bezeichnet. Er beschließt das Kapitel mit der Aufforderung, dass die demokratischen Staaten den Mut haben müssten, „den Tech-Unternehmen wirklich Paroli zu bieten und das Internet von Grund auf so zu erneuern, dass es die demokratischen Ideale verteidigt, statt sie zu verwässern“ (S. 271).
Im Mittelpunkt der drei letzten Kapitel stehen unter dem Motto „Beherrsche dich selbst, sonst tut es jemand anders“ (S. 293) vielfältige Informationen, die den Leser befähigen können, die Mechanismen der Beeinflussung zu durchschauen und Abwehrkräfte zu entwickeln. Gigerenzer beschreibt detailliert die von Tech-Unternehmen eingesetzten positiven Verstärker, die dafür sorgen, dass Nutzer möglichst viel Zeit auf Social-Media-Plattformen verbringen, damit es zu einem „maximalen Kontakt“ (S. 278) mit Werbung kommt; er erwähnt die fatalen Folgen der Abhängigkeit vom Smartphone bis hin zu tödlichen Verkehrsunfällen und reduzierten menschlichen Beziehungen, schädlich vor allem für Kinder; er erläutert, warum Fake News und Desinformation so wirksam sind, und gibt praktische Hinweise, mit denen man die Vertrauenswürdigkeit von Online-Quellen beurteilen kann. Er beschließt sein Buch mit einem Appell: „Heute leben wir in einer Welt, die das Zeitalter sowohl der Information wie der Desinformation ist. Letztere ist eine Bedrohung der Zivilisation: Sie kann das Vertrauen in die Institutionen untergraben, die wir zum Wohl der Gesellschaft errichtet haben […]. Wir müssen das Internet neu denken. Die auf Überwachung beruhenden Geschäftsmodelle beseitigen. Privatsphäre und Würde wieder zu ihrem Recht verhelfen. Der digitalen Technologie bewundernd auf Augenhöhe begegnen, statt mit unbegründeter Euphorie oder Argwohn. Um die digitale Welt zu einer Welt zu machen, in der wir leben möchten“ (S. 350).
Gerd Gigerenzer wird der im Untertitel des Buches stehenden Ankündigung: „Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen“ – und damit seinem in der Einleitung formulierten Anspruch – vollumfänglich gerecht: Er stärkt seine Leser, indem er als Grundlage eines kompetenten Umgangs auch komplizierte technische Sachverhalte durchschaubar macht, er informiert ebenso sachlich wie anschaulich über die weitreichenden finanziellen, politischen und psychologischen Folgen der zunehmenden Abhängigkeit von KI und zeigt Alternativen auf. Damit übergibt er seinen Lesern Verantwortung, betont aber gleichzeitig, dass es neben dem individuellen auch politisches Handeln auf Regierungsebene brauche, um dringend notwendige Veränderungen herbeizuführen.
Das Lesen wird ein wenig dadurch beeinträchtigt, dass die Zuordnung der Inhalte zu den Kapiteln nicht immer überzeugend ist. Dadurch kommt es stellenweise zu Überschneidungen und Wiederholungen. Angesichts der Komplexität des Themas könnte das aber auch als positiv beurteilt werden, da es das Wiedererkennen fördert.
Gigerenzer, G. (2021): Klick – Wie wir in einer digitalen Welt die Kontrolle behalten und die richtigen Entscheidungen treffen. C. Bertelsmann Verlag, München. ISBN 9783570104453