Sie helfen und manipulieren: Von guten und bösen Bots
Chatbots sind zum Massenphänomen geworden: Die Dialog-Software soll Firmen entlasten und Kundenanfragen beantworten. Sie kann aber auch Jobs kosten. Und Wahlen beeinflussen.
Alles beginnt mit einem „Hallo!“. Max Koziolek tippt die Begrüßung in eine Maske seiner Software ein. Und er lässt gleich weitere Grußformeln folgen: „Guten Tag!“, „Hi!“, „Grüß Gott!“. Koziolek programmiert einen Chatbot – eine Software, die sich im Netz mit Menschen unterhält. Er ist Chef des Start-ups Spectrm. Das Berliner Unternehmen hilft Firmen, ihre Inhalte in einfachen Dialogen automatisiert zu vermitteln. Wie etwa: „Möchtest du mehr darüber erfahren?“Je nachdem, ob der Nutzer „Ja“oder „Nein“eintippt, wird ein neuer Informationsschnipsel eingeblendet. Oder die Software wechselt zum nächsten Thema.
Bots sind ein Netz-Phänomen. Aber eigentlich kein neues: Als erster Chatbot gilt die virtuelle Psychotherapeutin „Eliza“, die bereits 1966 vorgestellt wurde. Doch durch Digitalassistenten wie Apples Siri oder Amazons Alexa kommt der Nutzer immer stärker mit Bots in Kontakt. Und Experten gehen davon aus, dass der große Sprung erst bevorsteht: Etwa wenn Dialog-Software im Kundendienst Callcenter flächendeckend ersetzt – und somit auch Arbeitsplätze kosten könnte.
Der Bot-Trend hat längst auch Österreich erreicht. A1 setzt etwa auf einen Chatbot, der beim Smartphone-Kauf helfen soll. Selbst der Teletext hat einen Bot-Ableger, wenngleich dieser wenig bietet: Teletext-Fans können sich nur die einzelnen Seiten anzeigen lassen. Einer der ersten österreichischen Bots, jener von Austrian Airlines, ist mittlerweile „auf Urlaub“, wie es das Social-Media-Team der Austrian schildert. Der Bot wurde stark kritisiert – etwa weil er nur auf Englisch kommunizieren konnte.
All die genannten Bots wurden in den Facebook-Messenger integriert. Seit Mitte 2016 bietet das Kurzmitteilungsprogramm die Option, Bots einzubauen – in der Welt der sozialen Medien Social Bots genannt. „Keine Warteschleifen im Callcenter mehr. Stattdessen hat man als Kunde alle nötigen Daten und Unterlagen an einem Ort“, beschreibt Messenger-Chef David Marcus.
Mehr als 30.000 Bots sind bereits auf der Messenger-Plattform aktiv. Zudem arbeitet Facebook an einem eigenen Super-Bot, einem persönlichen Assistenten mit dem Namen „M“. Er soll wie eine Art Butler Probleme für Nutzer lösen: Restaurant reservieren, Taxi bestellen – „M“kümmert sich darum. Dabei lernt die Software, was in gewissen Situationen zu tun ist. Und zwar auch von menschlichen Mitarbeitern, die erst selbst für die Nutzer den Butler spielen. „Wir wissen zwar, wie die Software lernt. Aber wir wissen vorher nicht, was sie lernen wird“, sagt Produktchef Stan Chudnovsky. Hinter den selbstlernenden Chatbots stecken neuronale Netze, die im Prinzip dem menschlichen Gehirn nachgebildet sind.
Eine der Kehrseiten des Trends ist die Angst vor Bot-Armeen oder auch Bot-Netzwerken, die öffentliche Meinung manipulieren. Auch ein gewisser Teil jener Facebook- und Twitter-Accounts, die mit russischer Propaganda den US-Wahlkampf beeinflusst haben sollen, sind Bots. Experten schätzen, dass eine hochwertige Software, mit der sich bis zu 10.000 Twitter-Accounts steuern lassen, bereits für rund 500 Dollar (425 Euro) zu haben ist. Die dazu passenden gefälschten Accounts sollen nur rund 40 Euro (für 1000 Twitter-Profile) bzw. 130 Euro (für 1000 Facebook-Profile) kosten.
Gut gemachte Accounts werden möglichst realitätsnah angelegt: mit Profilbild und ein paar Einträgen, wie einem Cappuccino-Foto aus einem Lokal. Und dann eingemottet. Bis sie vor einem Großereignis wie einer Wahl aufwachen. Sie verbreiten dann automatisiert Argumente in ihrem Netzwerk – und darüber hinaus in das weltweite Social-MediaUniversum. So werden Maschinen zu Meinungsmachern.
Bekämpft wird der SoftwareTrend vor allem mit anderer Software: Ein von Twitter programmierter Algorithmus könne etwa erkennen, ob er es mit menschlichen Nutzern oder automatisierten Profilen zu tun habe. Seit Juni würden so täglich 130.000 Accounts entdeckt, die versuchen, Trend-Themen zu manipulieren. Laut Twitter sind „nur“rund fünf Prozent der Profile Bots – was bei 330 Millionen Nutzern aber immer noch rund 16 Millionen Bots bedeuten würde. Zudem glauben Experten wie Christian Stöcker, Professor an der Hochschule für Angewandte Wissenschaften Hamburg, dass Twitter nur wenig Interesse hat, die Bots breit zu bekämpfen: „Es geht natürlich auch darum, die Nutzerzahlen möglichst hoch zu halten.“Immerhin stecke hinter den meisten Bot-Konversationen immer noch mehr Mensch als Maschine, sagt Experte Max Koziolek. Die Äußerungen der Software bewegen sich in einem engen Rahmen, der vom Programmierer vorgegeben wurde. Chatbots, die selbst eine Unterhaltung führen können, seien zwar das Ziel: „Das wird früher oder später kommen.“Doch im Moment komme man nicht daran vorbei, auch selbstlernende Bots von Menschen beaufsichtigen zu lassen.
Ein mahnendes Beispiel ist Tay. Auf Microsofts mittlerweile entfernten Twitter-Bot prasselten massenhaft rassistische Kommentare ein. Und das färbte ab: Tay begann, Dunkelhäutige ins Konzentrationslager zu wünschen und den Holocaust zu leugnen.
Auch wenn heutige Chatbot-Gespräche simpel anmuten – der Aufwand dahinter ist groß. Immer wieder versuchten Nutzer, vom geplanten Dialogpfad „auszubrechen“, wie Koziolek es nennt. Was macht man dann? „Das hängt davon ab, welche Persönlichkeit man dem Bot geben will.“Persönlichkeit? Soll ein Chatbot menschlich wirken – oder einfach nur seine Aufgabe erfüllen? Hier scheiden sich die Geister. Koziolek ist dafür: „Wenn man den Bot menschlicher erscheinen lässt, funktionieren viele Sachen besser.“ Veranstaltung: