Social Bots als Meinungsmacher
Bot oder echter Nutzer? Wenn bestätigt wird, was man selber gern glauben möchte: Wer fragt da noch, ob er gerade manipuliert wird? Wir haben uns mit dem Phänomen „Social Bot“beschäftigt.
Bot oder echter Nutzer? Wie stark werden wir in den sozialen Medien bereits manipuliert?
FAKE NEWS, SOCIAL BOTS, Meinungsroboter – wie weit werden wir in den sozialen Medien schon durch Software manipuliert? Erhält so jede „Glaubensgemeinschaft“ihre Blase mit ihren eigenen, immer wieder bestätigten Fakten und Wahrheiten? Wie wirkt sich der Einsatz von Social Bots aus? Prof. Dirk Helbing von der ETH Zürich hat zu diesem Thema einige unserer Fragen beantwortet. PC-WELT: Was genau ist ein Social Bot?
Prof. Dirk Helbing: Ein Social Bot ist ein selbstständig agierendes Computerprogramm, das – wie ein Chatbot – kommunizieren kann und darüber hinaus in sozialen Medien aktiv ist.
PC-WELT: Wie arbeitet ein Social Bot?
Helbing: Er erzeugt und verbreitet Nachrichten in sozialen Medien und ist im Grunde genommen das, was Spam bei Mailsystemen ist. Unter Umständen versieht ein Social Bot Nachrichten von anderen mit Likes oder folgt fremden Accounts. Manche Social Bots können sogar selber neue Accounts eröffnen. Für solche Fake Accounts werden unter Umständen Namen und Fotos aus dem Internet verwendet.
PC-WELT: Lernen Social Bots selbstständig dazu oder stützen sie sich lediglich auf bestehende Datenbanken? Helbing: Im Unterschied zu IFTTT (If This Then That) spulen Social Bots nicht notwendigerweise ein vorher im Detail vorgegebenes Verhalten nach einer Wenn-dann-logik ab, sondern sie sind lernfähig. Sie können gegebenenfalls neue Dialoge aus dem Internet extrahieren oder selber neue Aussagen erzeugen. PC-WELT: Nutzen Social Bots kognitive Intelligenz oder neuronale Netze. Oder kommt weder das eine noch das andere zum Einsatz? Helbing: Sie nutzen maschinelles Lernen. Es können neuronale Netze wie auch andere Verfahren zum Einsatz kommen. Besonders fortschrittliche Social Bots verwenden persönliche Daten über die jeweiligen Zielpersonen, um so personalisierte Botschaften zu erzeugen und dadurch die maximale Beeinflussung zu erzielen. Unter Umständen kennen solche Social
„Social Bots verbreiten Nachrichten in sozialen Netzwerken und dienen zur Meinungsbildung.“
Bots einen Menschen besser als seine Freunde. Der Einsatz dieser kognitiven Intelligenz zur Verhaltensmanipulation wird „Big Nudging“genannt. Bei einer unterbewussten Beeinflussung bekommt die adressierte Person oft gar nicht mit, dass sie gezielt beeinflusst wurde.
PC-WELT: Wer installiert Social Bots bzw. lässt sie laufen? Was will der Initiator erreichen?
Helbing: Beispielsweise Geheimdienste, Militär, Hacker, Unternehmen. Social Bots werden verwendet, um Ideen zu verbreiten und Kampagnen zu unterstützen. Sie sind neue, äußerst effektive Propagandawerkzeuge. Twitterbots und autonome Agenten auf Facebook sind typische Beispiele für Social Bots. Sie beeinflussen die Meinungsbildung zugunsten von ökonomischen oder politischen Interessen und manipulieren Entscheidungen, auch bei Wahlen. Sie werden überdies im Cyber-krieg eingesetzt, beispielsweise für Desinformationskampagnen und Hacking.
PC-WELT: Wie erstellt man Social Bots? Gibt es dafür Programme, und könnte jeder diese nach Belieben verwenden?
Helbing: Es gibt Firmen, die Social Bots anbieten. Insofern sind sie im Prinzip für jeden verfügbar. Die Miete von 10 000 Twitterbots kostet nur etwa 1000 Us-dollar. Das größte bekannte Bot-netzwerk umfasste 350 000 Bots. Es verbreitete Star-wars-zitate. Im Prinzip kann man sich Social Bots auch selber bauen. Heutzutage ist Software für Künstliche Intelligenz jedem zugänglich. Die dafür notwendigen Daten könnte man aus dem Internet herunterladen. In der Vergangenheit ist es beispielsweise vorgekommen, dass Daten von Facebook-nutzern heruntergeladen wurden. Achtung: Man könnte hierbei allerdings unter Umständen Nutzungsbedingungen oder Gesetze verletzen.
PC-WELT: Sind Social Bots hauptsächlich in politischen Diskussionen unterwegs? Oder bieten sich Social Bots noch in anderen Bereichen für Manipulationen an? Helbing: Zunächst wurden die Methoden für ein effizienteres, personalisiertes Marketing entwickelt. Man spricht von Neuromarketing. Manche zählen diese Methoden zu „Mind Control“. Wenn sie in allen Alltagssituationen zum Einsatz kommen, wird auch der Begriff „Matrix“verwendet. Die großen It-unternehmen haben jetzt begonnen, nach Mitteln zu suchen, Filterblasen und die „Matrix“zu durchbrechen. PC-WELT: Auf welchen sozialen Plattformen sind Social Bots unterwegs?
Helbing: Heutzutage hauptsächlich in den sozialen Medien und Suchmaschinen. Aber auch Nachrichten werden im Internet immer mehr personalisiert: die Titel und die Bilder etwa. Es ist nur noch eine Frage der Zeit, bis auch der Text personalisiert wird. Dann sehen am Ende alle unterschiedliche Inhalte, obwohl sie denselben Link anklicken. PC-WELT: Welche Auswirkungen haben Social Bots in den sozialen Netzwerken? Wer profitiert davon, wem schaden die Social Bots?
Helbing: Sie führen zu Verzerrungen bei der Meinungsbildung und im öffentlichen Diskurs. Sie tragen zu Fake News und zu Desinformation bei. Es profitieren jene, die Social Bots einsetzen, beispielsweise zu Werbezwecken oder für politische Propaganda. Der Nutzer hat dabei das Nachsehen. Er kauft Produkte, die er nicht braucht, und er verliert die Orientierung. Durch den Filterblaseneffekt droht die Gesellschaft, polarisiert zu werden. Die gemeinsame Basis und Konsensfähigkeit gehen verloren.
PC-WELT: Gibt es eindeutige Merkmale, um einen Social Bot von einem echten Nutzer unterscheiden zu können?
Helbing: Das ist zunehmend schwieriger. Mögliche Kriterien sind: die Verwendung von Grafi-
ken statt Fotos im Nutzerprofil, die Anzahl der Tweets beziehungsweise Posts an einem Tag, das Verhältnis von Followern zu Freunden, die Variation der Nachrichten. Und schließlich: Ist der Account rund um die Uhr aktiv?
PC-WELT: Programme wie Twitter Audit oder Botornot (mittlerweile: Botometer) sollen feststellen können, was Social Bots und wer echte Nutzer sind. Twitter Audit etwa soll feststellen, wie viele Follower eines Twitter-accounts tatsächlich Menschen sind – wie soll das gehen? Helbing: Botornot untersucht die Aktivität von Twitter-accounts und bewertet die Wahrscheinlichkeit, dass ein Account ein Bot ist. Dabei werden angeblich Tausende von Eigenschaften untersucht, etwa die zuvor genannten. Zum Teil werden auch sogenannte Honigtöpfe eingesetzt. Dabei wird offensichtlicher Unsinn gepostet und geschaut, wer darauf reinfällt. PC-WELT: Gibt es Zahlen oder Schätzungen dazu, wie viele Nutzer auf Twitter, Facebook & Co. Social Bots sind? Helbing: Die Schätzungen liegen bei etwa 20 bis 40 Prozent, teilweise sogar höher.
PC-WELT: Gibt es Studien oder Untersuchungen über Einsatz und Auswirkungen von Social Bots?
Helbing: Ja, aber es handelt sich um ein ziemlich junges Forschungsgebiet. Folglich ist die Anzahl der Publikationen noch relativ gering.
PC-WELT: Ist davon auszugehen, dass – nachdem Social Bots jetzt so häufig in den Medien sind – diese Robotermeldungen eher zurückgefahren werden und vielleicht wieder aus den
Netzen verschwinden? Oder ist sogar mit einem weiteren Anstieg von Social Bots zu rechnen, da sich immer mehr Anbieter einen Nutzen von deren Einsatz versprechen?
Helbing: Ich gehe davon aus, dass sich der Einsatz von Social Bots zunächst einmal noch weiter verbreiten wird. Es ist ein echtes Proliferationsproblem.
PC-WELT: Von Seiten der Grünen wird gefordert, dass Robotermeldungen in den sozialen Netzwerken gekennzeichnet werden müssen. Machen Social Bots dann überhaupt noch Sinn? Oder ist es denkbar, dass sich viele Nutzer auch mit Kennzeichnung weiterhin durch die so verbreiteten Informationen manipulieren lassen?
Helbing: Eine Kennzeichnung entspräche dem, was für Werbung gesetzlich vorgeschrieben ist. Obwohl Werbung gekennzeichnet werden muss, wirkt sie, ansonsten würde man nicht so viel Geld dafür ausgeben. Aber die Nutzer wissen dann wenigstens, dass sie manipuliert werden sollen. Und damit können sie sich besser vor Entscheidungen schützen, die nicht ihren Interessen entsprechen.
PC-WELT: Sehen Sie denn generell auch Handlungsbedarf von Seiten der Politik, um Social Bots einzudämmen, oder sehen Sie hier eher die Gefahr, dass Politik und Wirtschaft mit den Social Bots auf den Geschmack kommen könnten, den Bürger zu „leiten“?
Helbing: Nudging, das heißt Verhaltensmanipulation, ist bereits in mehr als 90 Ländern zu einem Mittel der Politik geworden. Man wollte es einsetzen, um ein sozialeres, gesünderes sowie umweltfreundliches Verhalten zu erreichen. Dass diese Methode derart außer Kontrolle gerät – Stichwort: Fake News und postfaktische Gesellschaft – hat man offensichtlich nicht kommen sehen. Maßnahmen sind unerlässlich. Je mehr menschliche Eigenschaften Künstliche Intelligenzsysteme imitieren, desto mehr ist es erforderlich, sie zu regulieren – so managt man ja auch das menschliche Zusammenleben. Die EU denkt schon über Gesetze für Roboter nach. Die internationale Ingenieurvereinigung IEEE arbeitet an Standards für das ethische Design von solchen Systemen. PC-WELT: Was halten Sie davon, dass einige Justizminister derzeit überlegen, Social Bots unter Strafe zu stellen und einen neuen Straftatbestand einzuführen, den sogenannten „Digitalen Hausfriedensbruch“?
Helbing: Es wäre sehr schön, wenn man Computerprogramme verhaften könnte. Zunächst ist jedoch sicherzustellen, dass Eigentümer, Auftraggeber wie auch Benutzer von Social Bots identifiziert werden können. Einige Social Bots werden jedoch von extraterritorialem Gelände aus betrieben. Dort gelten viele nationale und internationale Gesetze nicht. Man bräuchte hier also globale Regelungen.