Sie kennen unsere Schwächen

Immer schon hatten neue Medien gravierende politische Auswirkungen. Die von Facebook und Google vorangetriebene mediale Revolution aber verleiht den Technologie-Riesen nie dagewesene Macht.

Die Krise des gesellschaftlichen Klimas, hervorgerufen durch die Technologie der neuen Medienmonopole Facebook und Google/Youtube, ist eine globale Herausforderung in der Größenordnung der Klimakrise. So formuliert es Tristan Harris. Er hat in Stanford › Persuasive Technology‹ studiert und war bei Google zuständig für Ethisches Programmieren, bevor er ausstieg und das ›Center for Humane Technology‹ gründete.

Das Problem: Wir haben Gehirne, die seit der Steinzeit gleich funktionieren, Institutionen, die sich seit der Zeit der Eisenbahn nicht wesentlich verändert haben – aber Mediengiganten wie Facebook und Google mit einer sich rasant weiterentwickelnden Technologie, die man fast gottgleich nennen könnte: So genau weiß sie über jeden einzelnen von Milliarden Usern Bescheid, kennt jeden Schritt und jede Kommunikation und kann damit voraussagen, was wir fühlen und als nächstes tun werden.

Das gibt Facebook und Google eine vielleicht nie dagewesene Macht, die sie derzeit nur für einen Zweck einsetzen: möglichst lange und viel Aufmerksamkeit zu binden, um möglichst viel Werbung zu verkaufen. Das bedroht nicht nur das freie Internet, das immer mehr von den großen Konzernen eingesogen wird. Die gesellschaftlichen und politischen Folgen sind wesentlich schlimmer, als die düstersten Unkenrufer es sich 2016 vorstellen konnten, als Facebook und Youtube genutzt wurden, um mit vergleichsweise plumpen Mitteln den US-Wahlkampf und die Abstimmung über den Brexit zu manipulieren. Seither haben die künstlichen Intelligenzen exponentiell gelernt, und Google und Facebook sind nun selbst, trotz ihrer neuesten Bemühungen, kaum mehr in der Lage, das Monster wieder einzufangen, das sie losgelassen haben.

Es ist kein neues Phänomen, dass Medienrevolutionen nicht nur Gutes nach sich ziehen. Der Buchdruck und damit die Macht, das geschriebene Wort – bis

dahin Königen und Kirchen vorbehalten – massenhaft zu verbreiten, war ein Grundstein der Aufklärung und half so wirkungsvoll, die Autorität der Kirche zu erschüttern, dass der Protestantismus entstand. Aber die Möglichkeit, Gerüchte und Verleumdungen auf Flugblättern zu verbreiten, war auch ein Grund dafür, dass der 30-jährige Krieg so lange dauerte und so blutig war.

Auch Hexenverbrennungen – die die Populärkultur gern im Mittelalter ansiedelt – verbreiteten sich tatsächlich erst in der frühen Neuzeit, und ihr Brennstoff waren Flugblätter: Die gedruckten Diffamierungen in Blättern wie dem ›Hexenhammer‹ waren so mächtig, dass sie zu Massenverfolgungen und tausenden grausamen Morden beitrugen. Es dauerte Jahrhunderte, bis die Macht des massenhaft verbreiteten geschriebenen Wortes durch Gesetze in Bahnen gelenkt wurde: Heute regelt Medienrecht die Verantwortung des Herausgebers, keinen Hass und keine Verleumdungen zu verbreiten.

Die nächste Medienrevolution – Radio und Fernsehen – schuf von Beginn an natürliche Monopole: Rundfunk war so teuer, dass es nur einen Betreiber pro Staat geben konnte. Die Möglichkeit, mit einer Botschaft und Stimme zugleich in jedes Wohnzimmer zu dringen und die hohe Wirksamkeit des direkten Sprechens zur Bevölkerung machte sie zu den Medien des Faschismus und Nationalsozialismus. Die Antwort war die Idee des öffentlich-rechtlichen Rundfunks: Die mächtigen Monopole sollten weder in der Hand des Staates noch eines einzelnen Unternehmers liegen, sondern der Bevölkerung gehören.

Radio und Fernsehen sind durch dietechnische Weiterentwicklung schon lange keine Monopole mehr, dank Smartphone kann nun sogar jeder Einzelne Podcasts und Videos aufnehmen. Doch parallel dazu haben sich in den letzten zehn Jahren neue Monopole gebildet. Facebook hält ein De-facto-Monopol auf Social Media: 2,7 Milliarden Menschen nutzen monatlich aktiv Facebook, über zwei Milliarden Whatsapp, über eine Milliarde Instagram. Dazu überwacht Facebook seine User nicht nur auf den eigenen Seiten, sondern auch quer im gesamten Internet, greift auf ihre Adressbücher und Bewegungsdaten zu.

Die Aktiengesellschaft Alphabet Inc., der Google seit 2015 als Tochterunternehmen zugehört, hat damit ein Monopol auf Suche: 3,5 Milliarden Fragen stellen User jeden einzelnen Tag und verraten dabei auch alles über ihren Gefühlszustand, ihre Sorgen, Interessen und Krankheiten. Gmail trägt die private Kommunikation von 1,8 Milliarden aktiven Nutzern pro Monat bei, auf 85 Prozent aller Smartphones weltweit läuft Googles Betriebssystem Android. Und Googles Video-Streaming-PlattformYoutube hat zwei Milliarden monatlich aktive User mit täglich fünf Milliarden Videoabrufen. Nur China hat eine Mauer gebaut und die Entwicklung eigener Plattformen gefördert. Dort liefert Tencent – derzeit das fünftgrößte Unternehmen der Welt – unter anderem mit Wechat alle Daten direkt an den chinesischen Staat weiter.

Was ist nun das Besondere an diesen neuen Monopolen der aktuellen Medienrevolution? Anders als bisherige Massenmedien streuen sie nicht eine Botschaft an viele – sondern liefern individuell das, was den einzelnen User interessiert. Obwohl sie sich selbst gar nicht als Medienunternehmen sehen wollen, betreiben sie die mächtigsten Medien der Welt: Facebook den Newsfeed und den Insta-Feed, auf denen ja nicht die User auswählen, was sie sehen, sondern Facebooks künstliche Intelligenz. Youtube wählt mit Autoplay und den Recommendations die Videos aus, die der User sieht: 70 Prozent der Videoviews auf Youtube gehen nicht auf eigenständige Suche zurück, sondern auf die Vorschläge, die der Algorithmus macht.

Wer Instagram oder Facebook öffnet, hat einen Supercomputer gegenüber, der nur ein Ziel verfolgt: Dass wir möglichst lange bleiben und möglichst schnell wiederkommen. Dazu wird das menschliche Gehirn mit Tricks bearbeitet, gegen die es keine Handhabe hat: Niemand kann sich gegen das Bedürfnis nach sozialer Anerkennung wehren (›x gefällt dein Foto!‹), das Belohnungszentrum ausschalten, soziale Interaktion einfach ablehnen (›Deine Freunde versuchen dich zu erreichen!‹) oder das Gefühl der Dringlichkeit abstellen, wenn eine Notification aufploppt. Vor allem aber kann sich niemand gegen Gefühle wehren. Wut, Hass oder Rührung überkommt einen, man kann sie nicht ein- oder ausschalten.

Deshalb legt Facebook schon seit 2011 einen Schwerpunkt in der Entwicklung seiner künstlichen Intelligenz auf Gefühle: In welchem Gemütszustand befindet sich der User, welche Postings lösen welche Gefühle aus, welche Aktionen folgen? Seit Jahren beobachten die Datencenter nun in Echtzeit täglich an Milliarden Usern, wer was ansieht, klickt, weiterleitet und lernen daraus. Sie finden die kleinsten Schwächen und die Unsicherheiten heraus und nützen diese Lücken, um ins menschliche Gehirn zu kommen und sich dort festzukrallen. Finanzielle Schwierigkeiten, Liebeskummer, Angst? Selbstzweifel, Gewichtsprobleme, Streit mit den Kollegen? Google und Facebook wissen es, voll automatisiert, und sie spielen das passende Video aus. Das ist noch lange nicht böse Absicht, und es benötigt keine künstliche Intelligenz, die die Intelligenz des Menschen übertrifft: Sie muss nur die Schwachstellen erkennen und nützen.

Das Problem bei dieser Maximierung von Aufmerksamkeit: Ein Posting, das Wut auslöst, fassungslos macht oder zu Widerspruch anregt, spielt mehr Geld ein. Es wird öfter kommentiert und geteilt, die User bekommen Notifications,

Das menschliche Gehirn wird mit Tricks bearbeitet, gegen die es keine Handhabe hat.

wenn es weiterläuft, kommen zurück, schreiben weiter. Deshalb spielen die Algorithmen, die auswählen, was wir sehen, lieber Lügen und Hass ein als differenzierte, abgeregte Analysen. Das Resultat sind Spiralen in immer absurdere Tiefen des Hasses und der Verschwörungstheorie. Parallelwelten, aus denen manche nicht mehr auftauchen.

Obwohl die Entwicklung dieser künstlichen Intelligenzen noch in den Kinderschuhen steckt, sind die Folgen dramatisch. Schon jetzt kann man die Umbrüche dieser neuen Medienrevolution mit denen durch Buchdruck und Rundfunk vergleichen, sie könnten aber noch größere Ausmaße annehmen, weil die neuen Medien noch viel mehr Macht über die Psychologie des Einzelnen besitzen. Aber selbst die in den letzten Jahren eingesetzten rudimentären Mittel zeitigen heftige Auswirkungen: Der Genozid an den Rohingya in Burma etwa, wo das Internet sehr jung ist und quasi aus Facebook besteht, war getrieben von Verleumdungen via Facebook. Jair Bolsonaro wurde in Brasilien nicht zuletzt gewählt, weil man dort FacebookDaten mit Whatsapp für Werbung verknüpfen kann und Bolsonaros Kampagne Verleumdungen und Lügen über die politischen Gegner direkt in die persönliche Inbox von Millionen Brasilianern pushte. Die abstruse Verschwörungstheorie QAnon konnte mithilfe von Facebook und Youtube so viele Anhänger sammeln, dass sie zu einer ernsthaften terroristischen Gefahr wurde.

Facebook und Youtube versuchen nun, das Monster, das sie geschaffen haben, einzufangen. Nachdem sie sich jahrelang auf den Standpunkt zurückgezogen haben, nicht in die Inhalte eingreifen zu wollen, ging es in den letzten Wochen Schlag auf Schlag: Facebook kündigte an, alle QAnon-Accounts zu sperren, Holocaust-Leugnung zu verbieten und markiert nun Lügen, auch Youtube will Fakten vor Lügen reihen. Doch sie erwischen nur die Ränder. Das Problem liegt in der Grundstruktur der Algorithmen, die sie geschaffen haben. Am besten lässt man das die Insider erklären. Guillaume Chaslot, der den Recommendations-Algorithmus von Youtube entwickelt hat, sagt heute: ›Google kann dich glauben machen, dass die Erde flach ist. Wir wissen, dass Desinformation, Gerüchte und Spaltung die Interaktion antreiben. Wenn wir eine Welt der Spaltung und Lügen vermeiden wollen, müssen wir viel mehr tun, als Content zu löschen.‹

François Chollet, der Leiter des Programms für künstliche Intelligenz bei Google, schreibt dazu: ›Das menschliche Gehirn ist ein statisches System mit Schwachstellen, das von immer intelligenteren Künstliche-Intelligenz-Algorithmen attackiert werden wird, die zugleich einen kompletten Überblick haben über alles, das wir tun und denken, und komplette Kontrolle über die Information, die wir bekommen. Es ist wichtig zu wissen, dass die Kontrolle von Massen – besonders die politische Kontrolle – durch die Platzierung von Künstliche-Intelligenz-Algorithmen, die unsere Informations-Diät kontrollieren, keine besonders fortgeschrittene künstliche Intelligenz erfordert. Man braucht keine selbst-bewusste, superintelligente KI, damit das eine fürchterliche Bedrohung wird. Wir haben es bei Facebook mit einer mächtigen Entität zu tun, die feinkörnige Profile von über zwei Milliarden Menschen baut, die langfristige Verhaltensmanipulations-Experimente durchführt und die die beste Künstliche-Intelligenz-Technologie entwickeln will, die die Welt gesehen hat. Mir persönlich macht das Angst.‹

Facebook und Google haben mehr User als die größten Staaten Einwohner und haben es sich zur Philosophie gemacht, Regeln zu brechen und Gesetze möglichst zu umgehen. Die Gesetzgeber stehen weltweit vor dem Phänomen, dass sie es kaum schaffen, die Internetgiganten auch nur dazu zu bringen, bestehende Gesetze zu befolgen. In Europa ist das besonders bitter: Wer die Informations-Zufuhr zur Bevölkerung kontrolliert, der kontrolliert auch die Werte und die politische Einstellung. Dass nur US- und chinesische Medien das derzeit bieten, trägt dazu bei, das gesamte europäische Gesellschaftsmodell zu unterminieren.

In beiden Unternehmen – die übrigens beide in unmittelbarer Nachbarschaft zur Stanford University in Silicon Valley angesiedelt sind – haben die Gründer nach wie vor die Mehrheit der Stimmrechte. Man könnte also versuchen, diese drei Männer zu überzeugen, ihre Manipulationsmaschinen einzustampfen. Das versucht Tristan Harris mit seinem Center for Humane Technology. Aus europäischer Sicht ist eine andere Idee reizvoll: Warum nicht diesen neuen Monopolen die Idee des öffentlich-rechtlichen Rundfunks gegenüberstellen und eine offene, öffentlich-rechtliche europäische Plattform entwickeln, die die guten Seiten der neuen Medienrevolution aufgreift, aber die Algorithmen im Sinne der Gesellschaft programmiert und nicht im Sinne der Gewinnmaximierung? Und den Massen an Texten, Filmen, Videos, die in Europa entstehen, eine Plattform bietet? Facebook, Google und Tencent sind mit ihren Datenschätzen und Programmen zwar zehn Jahre voraus. Es erfordert eine große, gemeinsame europäische Investition, dem etwas entgegenzusetzen. Aber wenn wir es ernst meinen, dass diese Bedrohung so groß ist wie der Klimawandel, dann sollten wir damit starten. •

Die KI muss nicht die Intelligenz des Menschen übertreffen, sie muss nur seine Schwachstellen erkennen und nützen.