Vom Roboter gekündigt
Algorithmen spielen nicht nur bei der Einstellung von Bewerbern eine wichtige Rolle, sondern auch bei Entlassungen.
Im vergangenen Jahr wollte der Softwareentwickler Ibrahim Diallo wie jeden Morgen ganz normal zur Arbeit gehen. Sein Arbeitsplatz: ein Büro im Wolkenkratzer LA 1 in Los Angeles. Als er seine Karte auf das Drehkreuz legte, so beschreibt er es in seinem Blog, leuchtete die Anzeige begleitet von einem Piepton rot auf. Diallo versuchte es noch ein paar Mal, doch ihm wurde stets der Zugang verweigert. Dann drückte der Security-Mann an der Pforte einen Knopf und öffnete die Schranke. Diallo glaubte zunächst an einen Scherz, schließlich passierte er den Wachmann jeden Tag. Doch am nächsten Tag funktionierte seine Zugangskarte wieder nicht. Diallo dachte, dass es sich um ein technisches Problem handelte. Sein Badge hatte in der Vergangenheit wiederholt gestreikt. Also kontaktierte er das Management, um eine neue Karte zu beantragen. Daraufhin wurde ihm eine temporäre Ausweiskarte ausgestellt.
Diallo gelangte zu seinem Arbeitsplatz, doch als er versuchte, sich an seinem Computer einzuloggen, poppte eine Fehlermeldung
auf. Am darauffolgenden Tag konnte der Security-Mann kein Ersatzdokument ausstellen, weil Diallos Name an der Eingangstür rot aufleuchtete. Ein Manager musste ihn ins Gebäude eskortieren. Zu seinem Entsetzen musste er feststellen, dass seine gesamten Dateien gelöscht worden waren und er aus dem System abgemeldet worden war.
Was dann folgte, ist ein geradezu kafkaeskes Schauspiel: Nach dem Mittagessen tauchten zwei Security-Männer auf und eskortierten ihn zum Ausgang. Diallo wurde entlassen. Doch das Seltsame an der Sache war, dass ihm das niemand mitgeteilt hatte. Er erhielt kein förmliches Kündigungsschreiben. Seine Chefin hatte ihm tags zuvor versichert, dass alles in Ordnung sei und das Problem rasch behoben würde. Doch inzwischen hatten die Computersysteme längst eine Entscheidung gefällt. Diallo wurde von einem Algorithmus gefeuert.
Erst drei Wochen später fand der Programmierer eine Erklärung: Kurz nachdem er eingestellt worden war, wurde sein direkter Vorgesetzter entlassen und über ein Subunternehmen im HomeOffice beschäftigt. In dieser Übergangszeit hat dieser schlicht versäumt, Diallos befristete Stelle zu verlängern. Wenn ein Arbeitsvertrag ausläuft, übernimmt das System die Kontrolle: Es sendet automatische Aufträge, den Zugang zu verweigern oder den Account zu sperren. So entspann sich eine irreversible algorithmische Befehlskette, an deren Ende jeder seinen Arbeitsanweisungen nachgekommen war und Diallo ohne Job dastand.
Die Personalie ist ein Lehrbuchfall in Organisationssoziologie: Sie zeigt, wie Zuständigkeiten und Verantwortungsbereiche in automatisierten Systemen diffundieren und Systemprozesse außer Kontrolle geraten. Die Entlassungsmaschinerie konnte niemand stoppen – gerade weil sich jeder an die (Programmier-)Vorschriften hielt, griff jedes Rädchen ins andere.
Das ist kein Einzelfall. Vor wenigen Wochen wurde bekannt, dass bei Amazon zwischen August 2017 und September 2018 hunderte „ineffiziente“Arbeiter in Logistikzentren von Computeralgorithmen gefeuert wurden. Interne Dokumente, die das TechPortal The Verge enthüllte, zeigen, dass das „Amazon-System die Produktivitätsrate jedes einzelnen Mitarbeiters trackt und automatisch Warnungen und Kündigungen (…) ohne Input der Vorgesetzten generiert“. Wenn die Angestellten zu lange Pause machen oder bestimmte Vorgaben nicht erfüllen, erzeugt das System eine Warnung, die zur Entlassung führen kann.
Totale Überwachung
Amazon-Mitarbeiter sind ohnehin schon großem Druck ausgesetzt. Computer erfassen jede Warenbewegung, jeder Arbeitsschritt wird streng kontrolliert. Wie viele Pakete werden eingelagert? Wie viele wieder eingepackt? Ist Mitarbeiter X produktiv genug? Der Investigativreporter James Bloodworth, der sich für seine Buchrecherchen heimlich in ein Amazon-Lager im englischen Staffordshire eingeschleust hat, berichtet, dass Mitarbeiter in Flaschen urinierten, aus Angst, für Leerlaufzeiten bestraft zu werden und ihre Jobs zu verlieren. Die Mitarbeiter klagen über Druck, schlechte Bezahlung und Überwachung am Arbeitsplatz. Nach dem Black Friday protestierten in ganz Europa tausende Amazon-Mitarbeiter mit dem Slogan „Wir sind keine Roboter“.
Die arbeitsrechtliche Frage ist, ob Kündigungen durch Maschinen überhaupt zulässig sind – und wie sozial verträglich automatisierte Entlassungen sind. Zwar betonte Amazon, dass Vorgesetzte die automatisierten Entscheidungen überstimmen könnten und bei Kündigungen der Mensch immer das letzte Wort habe. Doch woher will der Betroffene das wissen? Black-Box-Systeme wie Algorithmen entscheiden schon heute – reichlich intransparent –, ob man einen Job oder bei der Bank einen Kredit bekommt. Doch sie entscheiden auch zunehmend, ob man seinen Arbeitsplatz behält oder gekündigt wird. Die Gefahr, von einem Roboter entlassen zu werden, ist womöglich größer, als von diesem ersetzt zu werden.