Schwere Bedenken gegen den AMS-Algorithmus
Ab Juli dürfte der Algorithmus, mit dem das AMS Jobsuchende in drei Gruppen einteilt, in den Echtbetrieb gehen. Eine Gruppe von Wissenschaftern äußern schwere Bedenken gegen den Algorithmus. Von einem objektiven System könne keine Rede sein.
Ein Computersystem spaltet die Geister. Seitdem im Oktober 2018 bekannt wurde, dass das Arbeitsmarktservice (AMS) künftig einen Algorithmus dazu nutzen will, die Jobchancen von Arbeitslosen zu bewerten, wird über das Für und Wider des Systems gestritten. Die Gegner orten einen „Dammbruch“und warnen vor einer Art Vorherrschaft computerbasierter Systeme.
Weil noch dazu das das Geschlecht und die Staatsbürgerschaft bei der Chancenbewertung durch den Computer eine Rolle spielen, steht auch der Vorwurf der Diskriminierung im Raum. Beim AMS dagegen ist von überzogener Kritik die Rede: Der Algorithmus werde nur die Realität am Arbeitsmarkt abbilden.
Wer hat nun recht? Eine Bewertung dieser Frage ist auch deshalb schwer, weil mehrere Metiers betroffen sind. Es geht ebenso um komplexe arbeitsmarktpolitische Fragen wie um die Rolle algorithmischer Systeme.
Eine Gruppe von Wissenschaftern von der TU Wien und der Akademie der Wissenschaften hat den bisher vielleicht umfassendsten Anlauf unternommen, um den Algorithmus und seine Wirkungen zu analysieren.
In dem soeben erschienenen Paper („Algorithmic Profiling of Job Seekers in Austria: How Austerity Politics Are Made Effective“) äußern die Autoren starke Bedenken gegen den AMS-Algorithmus. Das Ganze beginnt bei der Transparenz, die es laut Paper entgegen dem Versprechen des AMS nicht vollständig geben soll.
Zur Erinnerung: Das Programm wird Arbeitslose in jene mit guten, mittleren und schlechten Jobchancen einteilen. Personen mit hoher Arbeitsmarktchance sind jene, bei denen mit 66-prozentiger Wahrscheinlichkeit angenommen wird, dass sie es binnen sieben Monaten schaffen, drei Monate Beschäftigung zu finden.
Kunden mit niedrigen Chancen sind jene, bei denen die Wahrscheinlichkeit, dass die Betroffenen binnen 24 Monaten sechs Monate in Beschäftigung gebracht werden können, bei weniger als 25 Prozent liegt. Alle anderen zählen zur Gruppe mit mittlerer Perspektive.
In die Bewertung der Chancen fließen viele Variablen ein: so etwa der Wohnort des Jobsuchenden, die bisherige Karriere am Arbeitsmarkt, die höchste abgeschlossene Ausbildung, aber eben auch das Geschlecht. Jede Variable hat bei der Wahrscheinlichkeitsrechnung ein anderes Gewicht. Aber es gibt 96 verschiedene Modelle mit unterschiedlichen Gewichtungen. Bei der Berechnung der kurzfristigen Jobchancen haben die erwähnten einzelnen Variablen ein anderes Gewicht als bei der langfristigen Beurteilung. Je nachdem wie lange jemand arbeitslos ist, verändert sich die Gewichtung weiter.
Rolle des Geschlechts
Und: Die Annahmen sind auch je nachdem anders, ob es vollständige Daten aus der Vergangenheit des Arbeitslosen gibt oder nicht. Alles in allem ergibt das die 96 erwähnten Modelle zur Berechnung der Jobchancen.
Detailliert publiziert hat das AMS die Gewichtung aller Variablen zunächst nur bei dem kurzfristigen Modell. Zuletzt hatte das AMS im Rahmen der Anfrage der NGO Epicenter works es abgelehnt, auch alle Variablen für das langfristige Modell zu veröffentlichen.
Da nicht volle Transparenz gegeben ist, sei auch die Folgenabschätzung in einigen Bereichen nicht möglich, so die Autoren des Papers. Das führt auch zur schwierigen Frage, ob Diskriminierung vorliegt: AMS-Chef Kopf betont immer wieder, dass der Algorithmus Frauen keinesfalls benachteilige, auch wenn die Jobchancen von Frauen vom System schlechter bewertet werden als jene der Männer. Frauen würden überproportional den mittleren Arbeitsmarktchancen zugewiesen und seien bei der Gruppe mit niedrigen Arbeitsmarktchancen unterrepräsentiert, so Kopf. Aus der Analyse lässt sich der Schluss ziehen: Da es um 96 Modelle geht, lässt sich das so gar nicht sagen. Es müsste in allen Fällen analysiert werden, wie Frauen abschneiden.
Kritik wird aber auch im Paper an den verwendeten Variablen geübt: Diese würden viel zu stark auf Eigenschaften der Arbeitslosen abstellen, ganz so, als sei es vor allem eine individuelle Frage, ob jemand einen Job findet oder nicht. Während Alter, Geschlecht, Ausbildung
vom Algorithmus genau bewertet werden, fließe das wirtschaftliche Umfeld nur oberflächlich ein. So gibt es eine Variable im Algorithmus, mit der die Lage am Arbeitsmarkt abgebildet wird: Diese Variable berücksichtigt, wie viele Menschen in einer AMS-Region einen neuen Job finden und wie viele ihre Stelle verlieren.
Das sei aber nur eine sehr grobe Berücksichtigung ökonomischer Faktoren, so die Wissenschafter. Die Berufssparte, in der ein Betroffener eine Stelle sucht, werde nur oberflächlich berücksichtigt: Das Programm kennt nur die Einteilung, ob jemand in der Industrie oder im Dienstleistungssektor arbeiten will.
Fazit der Forscher: Der Algorithmus sei kein objektives Programm, viele Werturteile und Bewertungen, über die gesellschaftlich diskutiert werden muss, seien eingeflossen.
Das AMS will den Algorithmus ab Juli einsetzen, derzeit wird noch getestet. Ab dann soll auch unterschiedlich gefördert werden, je nachdem, in welche der drei erwähnten Kategorien ein Arbeitsloser eingeteilt wird.