De0rAl0gori0thm0usun1ser0Leb1en1? Formt

Magenda: örder, Räuber, Diebe, Vergewaltiger. Im Verhandlungssaal 504 des größten Strafgerichts von Philadelphia entscheidet sich an gewöhnlichen Tagen das Schicksal mutmaßlicher Verbrecher. Doch an einem Mittwochnachmittag Mitte Juni werden nicht Zeugen vernommen und Angeklagte befragt. Stattdessen diskutieren Anwälte, Richter und NGO-Vertreter über einen Algorithmus.

Der Gesetzgeber des US-Bundesstaats Pennsylvania hat vor Jahren entschieden, dass künftig ein Computerprogramm Richtern dabei helfen soll zu entscheiden, welches Strafmaß ein verurteilter Straftäter bekommen soll. Der Algorithmus soll vorhersagen, wie hoch das Risiko ist, dass ein Delinquent in den kommenden drei Jahren wieder straffällig wird und damit eine Gefahr für die öffentliche Sicherheit darstellt. Diese Bewertung soll ab 2019 in die Urteile einfließen. Dafür nutzt das Programm Variablen wie das Alter des Verurteilten, sein Geschlecht, Informationen zu seinem Verbrechen und zu früheren Verurteilungen bis zurück ins Jugendalter.

Die Anhörung zu dem Programm im Saal 504, zu der Juristen geladen haben, verläuft hitzig. Die Hautfarbe spielt als Variable beim Algorithmus zwar keine Rolle. Doch NGO-Vertreter warnen, dass das System die schon bestehende Diskriminierung von Schwarzen dennoch verstärken werde. Schwarze werden in den USA häufiger polizeilich kontrolliert als Weiße. Das trägt dazu bei, dass sie im Vergleich zu Weißen häufiger im Gefängnis landen. Ein System, das Vorverurteilungen in die Risikoanalyse einbeziehe, schreibe die Diskriminierung fort.

Die Nutzung von Computerprogrammen zur Bewertung und Beurteilung von Menschen ist seit Jahrzehnten gängige Praxis (siehe Seite 3). Florian Cech, der sich am Center for Informatics and Society der TU-Wien mit algorithmischen Systemen beschäftigt sagt, dass sich ein Wandel vollzieht: „Die Nutzung von Algorithmen dringt in neue Lebensbereiche vor. Die Auswirkungen für Menschen werden weitreichender.“Wenn wir auf Amazon ein falsches Produkt angeboten bekommen, ist das einzige Risiko, Zeit zu verschwenden. Die Entscheidung, wer auf Bewährung freikommt, wen die Fürsorge aufsucht und welches Angebot eine Arbeitsagentur macht, sind schwerwiegender.

Wirbel um AMS-Pläne

In Österreich hat der Plan des Arbeitsmarktservice (AMS), Arbeitssuchende künftig mithilfe eines Computersystems in drei Kategorien einzuteilen, für Schlagzeilen gesorgt. Zunächst läuft eine Testphase, doch ab 2020 könnt das individuelle Förderangebot beim AMS davon abhängig sein, welcher der Gruppen ein Arbeitssuchender zugeteilt wurde. Arbeitsagenturen in den Niederlanden und in Dänemark verwenden bereits ähnliche Systeme. Die Volksanwaltschaft will den Algorithmus nun in einem Prüfverfahren unter die Lupe nehmen. Laut Volksanwalt Günther Kräuter wende sich das Verfahren gleichlautend an die AMS-Geschäftsführung und Frauenministerin Juliane BognerStrauß, da man vor allem Nachteile für strukturell benachteiligte Gruppen – darunter Frauen – fürchte. Kräuter zum „Dass Frauen offenbar generell mit einer diskriminierenden Negativeinstufung zu rechnen haben, macht fassungslos.“Die Volksanwaltschaft hofft durch ihre Prüfung auf eine „Grundsatzdiskussion der Konsequenzen dieses Projekts“– und auf eine weitestreichende Einbeziehung der Zivilgesellschaft.

In Pittsburgh, Pennsylvania, verwendet die Kinderfürsorge seit 2016 ein Programm, das bewertet, ob ein Kind misshandelt wird. 14.000 Anrufe gehen bei der Fürsorge jedes Jahr wegen Kindesmisshandlungen ein, von Lehrern, Nachbarn, Angehörigen. Oft ist es Fehlalarm. Manchmal sind Kinder aber in Lebensgefahr. In Pittsburgh überprüft das Programm Daten aus zahlreichen Registern. Waren die Eltern des Kindes in medizinischer Behandlung wegen Drogensucht, sind sie vorbestraft oder wur-