Archiv für den Tag: 16. Juni 2019

Herrschaft im digitalen Zeitalter: „Wir sollen weiter manipuliert werden – nur anders“

„Das Internet ist das neue Schlachtfeld“

Tagesspiegel, 25.03.2019, von Christian Hönicke und Ralf Schönball

IT-Experte Gregor Engelmeier, 54, Informatiker und Entwicklungsleiter bei einer Berliner Firma für Lernsoftware. Über seinen beruflichen Alltag hinaus interessiert sich der IT-Experte besonders dafür, wie sich soziale und technische Systeme gegenseitig durchdringen – also wie seine Branche die Gesellschaft verändert.

Engelmeier: […] Digitalisierung ist ein sozial-technologischer Prozess. Es entstehen Gemeinschaften rund um Apps wie Facebook oder Online-Spiele. Darin gibt es zwei Akteure, Menschen und Maschinen. Und beide Akteure verfolgen Ziele: Die Menschen wollen Spaß haben, und die Maschinen sind dazu eingerichtet, die Menschen systematisch zu geldbringenden Aktivitäten zu führen. Das ist ganz anders als bei allen Medien bisher und wirft völlig neue Fragen auf. Denn ich fürchte, die Bundeskanzlerin hat auch Recht, wenn sie sagt: „Es wird alles digitalisiert werden, was digitalisiert werden kann.“

Trägt die Digital-Offensive an den Schulen zur Bildung von digital kompetenten Bürgern bei?
Nein. Es bringt überhaupt nichts, wenn für fünf Milliarden Euro Tablets und Internetzugänge in den Schulen abgeworfen werden. Eine App bedienen zu können, ist kein Zukunfts-Skill, den ich brauche. Im Silicon Valley begrenzen leitende Mitarbeiter der Tech-Konzerne rigide die Online-Zeiten ihrer Kinder, in den Schulen und zu Hause. Gerade weil sie wissen, was da passiert. In den öffentlichen Schulen Kaliforniens werden dagegen nach wie vor Tablets ausgekippt. Das ist entweder wenig durchdacht oder perfide.

Wie sähe eine sinnvolle digitale Bildungspolitik aus?
Man muss den Menschen die Mittel geben zu reflektieren, wie ihre digitale Umwelt aufgebaut ist. So wie man Schüler auch befähigt, mit Filmen, Werbung, Presseerzeugnissen oder Romanen umzugehen, sollten sie lernen, wie Programme konstruiert sind, etwa das Spiel „Fortnite“. Wie ist die Erzählstruktur, die Bildwelt? Warum macht mich das so an, welche Stilmittel und Verführungstechniken werden verwendet? Will ich mich davon anmachen lassen, und wenn ja warum?

Die Internetexpertin des Bundesmissbrauchsbeauftragten, Julia von Weiler, fordert ein Smartphone-Verbot für Minderjährige unter 14 Jahren. Ein guter Vorschlag?
Man kann viel fordern. Aber wenn die ganze Klasse Whatsapp nutzt, haben es Kind und Eltern schwer, sich dem zu entziehen.

Sollte man wenigstens vor den Gefahren der Online-Sucht warnen wie vor dem Rauchen?
Hilfreich wäre auf jeden Fall, mehr Transparenz über die Nutzungsintensität der Apps zu schaffen – für die Erziehungsberechtigten und die Kinder. Von Gamern weiß ich, dass sie ihre eigenen Online-Zeiten stark unterschätzen.

War das bei Einführung des Fernsehens nicht genauso?
Die Herausforderung für die Familien ist ähnlich: die Steuerung der Verwendung des Zeit- und Aufmerksamkeitsbudgets der Kinder und Jugendlichen. Heute ist es schwieriger, weil das Smartphone immer und überall verfügbar ist. Es ist immer eine App da, mit der ich irgendwas tun kann. Diese Art, Zeit totzuschlagen, ist im Design der Geräte und der Betriebssysteme angelegt.

Der Online-Sog gehört zum Geschäftsmodell?
Ja. Unsere Gesellschaft hat sich darauf geeinigt, dass die vielfach sehr nützlichen oder unterhaltsamen Dienste zunächst mal kostenlos sind. Aber die Anbieter müssen ja irgendwie Geld verdienen, und deshalb nehmen es die Konsumenten in Kauf, dass ihr Nutzungsverhalten analysiert und auch beeinflusst wird.

Wie sieht die digital kompetente Gesellschaft der Zukunft aus? Werden wir die Geräte dauerhaft nutzen, weil sie ins Hirn eingebaut sind, oder gar nicht mehr?
Ich glaube, weder noch. Idealerweise nutzen die Menschen die Technik bewusst, reflektiert und kreativ. Die andere Seite der Medaille ist ja das ungeheure Kreativpotenzial des Einzelnen, das er in einem Maß zur Geltung bringen kann wie nie zuvor. Wie jemand auf Youtube hochgespült werden kann, das hat ein unvergleichliches Potenzial an Emanzipation und Stärkung. Das kann aber genauso genutzt werden als Mittel der Verängstigung, der Manipulation oder zur mehr oder weniger subtilen gesellschaftlichen Steuerung.

Wenn alle von Geburt an gefilmt, gepostet und geliked werden, häuft sich ein ungeheurer personalisierter Datenschatz an – inklusive aller Fehltritte und Jugendsünden. Facebook will den Datenschutz verbessern, durch eine Verschiebung vom Öffentlichen ins Private. Mark Zuckerberg spricht von „einfachen, intimen“ Plattformen, auf denen man die volle Kontrolle über seine Daten haben soll. Der größte Datenhändler will Datenschützer werden: Ist das glaubwürdig?
Es ist eher ein Anzeichen dafür, wie relevant die Themen der digitalen Kontrolle geworden sind. Und vielleicht auch dafür, wie stark der Druck auf die großen Plattformen inzwischen ist. Sie sind in eine Sphäre vorgestoßen, in der sie auf sehr schlagkräftige legislative und exekutive Gegner stoßen. Da überlegt man es sich als Unternehmen vermutlich, ob man kämpft oder sich lieber mit dem Gegner verbündet. Im Falle des Netzwerkdurchsetzungsgesetzes hat Facebook zunächst mal die Niederlage hingenommen.

Es gibt zwar offiziell ein Recht auf Löschung – aber wie kann man kontrollieren, ob das wirklich getan wird?
Das können Sie nicht. Weder bei den Firmen noch beim Staat. Der Staat sichert sich ein legales Zugriffsrecht auf fast alle Datentransfers. Der BND hat am weltgrößten digitalen Internet-Knotenpunkt in Frankfurt nahezu unbegrenztes Zugriffsrecht. Durch solche Knotenpunkte fließt unser kompletter Datenverkehr.

Sind die Internet-Befugnisse der Sicherheitsbehörden eine Gefahr für die Demokratie?
Ja. Der Einzelne muss vor dem Staat geschützt werden. Aus der Erfahrung des Absolutismus wissen wir, dass die Gewaltenteilung der Weg dazu ist. Seither kontrollieren sich die Gewalten gegenseitig. Voraussetzung für die Kontrolle ist die Trennung der Informationen – ein Informationsaustausch erfolgt nur in geregelten und meistens transparenten Prozessen. Genau das ist das erste, was totalitäre Staaten abschaffen. Das war auch bei den Nazis so. Nach dem Krieg haben die USA daher verordnet, dass es nie wieder eine geheime Staatspolizei in Deutschland mit Zugriff auf alle Informationsquellen des Staates geben darf. Diese Grenzen zwischen den Gewalten sind nun in Gefahr.

Wenn Daten Macht sind, sind Informatiker die heimlichen neuen Weltherrscher?
Nein. Aber Informatiker stellen Herrschaftsinstrumente her. Man kann IT in zwei Bereiche gliedern: Entwickler und Administratoren. In der Administration hat man es direkt mit sensiblen Daten zu tun, ein Beispiel war Snowden. Die Entwickler, die programmieren und implementieren, haben wiederum eine immense Gestaltungsmacht. Etwa wenn man am neuen Relevanzcode von Google arbeitet oder an der Timeline von Facebook oder an Themen wie Sprach- oder Gesichtserkennung.

Sind sich die Informatiker ihrer Verantwortung bewusst?
Ich hoffe. Es gibt viel mehr nachdenkliche Menschen in meiner Branche, als man denkt. Manche interessiert es aber auch gar nicht, weil sie einfach in die Schönheit ihrer Algorithmen verliebt sind. Das ist nicht verwerflich, spielt aber ihren Auftraggebern in die Karten.

Zu Beginn diente das Internet der reinen Kommunikation. Wie ist es zu einem Werkzeug der Nutzermanipulation geworden?
Das Internet als Netz der Netze, wie es vor 50 Jahren konzipiert wurde, gibt es immer noch. Es ist die rein technische Ebene, auf der potentiell alle Arten von technischer Kommunikation miteinander verbunden werden. Die verhält sich auf der Ebene des Inhalts neutral, sie leitet die eingespeisten Informationen nur weiter. Mit der Entwicklung der Suchmaschinen war das Netz nicht mehr neutral. Bei Amazon oder Google sieht nicht mehr jeder den gleichen Inhalt, wenn er denselben Suchbegriff eingibt, durch die sogenannte Personalisierung. Mit der Einführung der Apps vor etwa zehn Jahren wurde es noch ganz anders. Nun greift das Netz aktiv nach der Aufmerksamkeit seiner Nutzer.

Wie tut es das?
Der Nutzer muss nicht mehr selbst aktiv entscheiden, dass er seine Mail checkt oder eine neue Gamerunde spielen will, sondern wird von diesen Diensten aktiv aufgefordert, dies zu tun. Sie ermahnen ihn „Sie haben fünf neue Nachrichten“ oder „Deine Freunde sind schon online! Spiel mit!“ Diese Push-Nachrichten stupsen die User an, sich mit der Maschine zu beschäftigen.

Wie genau schaffen es die Apps, uns damit nicht zu nerven, sondern immer wieder erfolgreich zu locken?
Am Anfang steht die Datenerhebung. Ein Teil des Erfolgsgeheimnisses der Apps ist die wissenschaftlich rigorose Analyse der Nutzungsdaten. Die Klassifikation von Millionen Daten, zum Beispiel weil 50 000 User sich bei Zuspielung einer bestimmten Information ähnlich verhalten: Sie, ich und jeder andere User wird so tausendfach klassifiziert und gruppiert. Nach solchen Gemeinsamkeiten in den Daten suchen die Algorithmen ständig.

Und was macht die Maschine damit?
Sie kann auf dieser Grundlage eigene Schlüsse ziehen: User, die dieses angeklickt haben, werden vermutlich als nächstes jenes anklicken. Das folgt den Gesetzen der Wahrscheinlichkeitsrechnung. Die Maschine lernt, aus dem bisherigen Verhalten des Users dessen künftiges vorherzusagen. Sie reagiert darauf mit Informationsangeboten, die ihn in letzter Konsequenz dazu bringen sollen, sich so zu verhalten, dass der Profit der App maximiert wird.

Sind Menschen in diesen Prozess eingebunden?
Nein. Twitter hat rund 320 Millionen Nutzer, aber nur knapp 4000 Mitarbeiter. Die können sich nicht Milliarden Nachrichten anschauen. Selbst wenn man die Firmen zur Offenlegung des Prozesses zwänge, bekäme man nur einen leeren Algorithmus. Wie und warum der in bestimmten Situationen so entscheidet, wie er das tut, können nicht einmal seine Programmierer nachvollziehen. Weil ihnen die Milliarden Daten fehlen, mit denen er sich selbst trainiert hat.

Weiß die Maschine wenigstens selbst, was sie tut?
Nein, die weiß gar nichts.

Die viel besungene KI ist nur eine blöde Maschine ohne Erkenntnis?
Künstliche Intelligenz ist simulierte Intelligenz. Die Entscheidungen leitet sie aus der Summe früherer Entscheidungen ab. Wir Informatiker füttern sie dazu am Anfang mit Trainingsdaten, da kann ich die ersten Entscheidungen noch überprüfen. Wenn ich den Algorithmus ins echte Leben entlasse, lernt er mit echten Daten weiter und die Zahl der Entscheidungen vervielfacht sich, sodass man ihre Prämissen nicht mehr sinnvoll nachvollziehen kann. Dieses Problem haben die Naturwissenschaften schon lange mit der KI.

„Wir sollen weiter manipuliert werden – nur anders“

Auch in der Berufswelt übernehmen Algorithmen zunehmend die Chefrolle. Bei vielen Fahr- und Lieferdiensten geben sie per App vor, was die Fahrer bis wann zu tun haben. Wer das nicht schafft, fällt im Score und hat dann etwa bei der Dienstplanung Nachteile. Ist das gut, weil objektive Leistungskriterien angewandt werden? Oder geht hier Menschlichkeit verloren?
Hier folgt die technische Gestaltung einem Menschenbild, das ich persönlich nicht gut finde. Es macht den Menschen zum bloßen Objekt von wirtschaftlichen Interessen, das sich undurchschaubaren Mechanismen unterwirft. Ob wir das zulassen oder nicht, wie wir mit dieser technologischen Möglichkeit umgehen, ist eine Frage der gesellschaftlichen Verhandlung.

Was muss da verhandelt werden?
Die Gesetzgebung muss regeln, ob sie solch pseudoselbstständige und scoringbasierte Arbeitsverhältnisse wie bei Uber zulässt. Diese Technologien helfen dabei, Sachen effektiver zu machen – zum Guten und zum Schlechten. Wir müssen unsere Naivität ablegen und erkennen, dass die Digitalisierung unserer Gesellschaft nicht etwas ist, das irgendwann in Zukunft kommen wird. Sondern dass sie uns heute bereits umgibt, auch wenn wir weder Computer noch Smartphone nutzen. Daher ist heute die Digitalpolitik das Feld, in dem wir die Freiheit gewinnen müssen.

Und was kann man selbst konkret tun?
Mehr Bücher lesen – auch gerne online. Das ist das Beste, was man für das selbstbestimmte Denken tun kann.

Zum vollständigen Artikel: https://www.tagesspiegel.de/zeitung/herrschaft-im-digitalen-zeitalter-wir-sollen-weiter-manipuliert-werden-nur-anders/24139488-all.html