De0rAl0gori0thm0usun1ser0Leb1en1? Formt

Magenda: örder, Räuber, Diebe, Vergewaltiger. Im Verhandlungssaal 504 des größten Strafgerichts von Philadelphia entscheidet sich an gewöhnlichen Tagen das Schicksal mutmaßlicher Verbrecher. Doch an einem Mittwochnachmittag Mitte Juni werden nicht Zeugen vernommen und Angeklagte befragt. Stattdessen diskutieren Anwälte, Richter und NGO-Vertreter über einen Algorithmus.

Der Gesetzgeber des US-Bundesstaats Pennsylvania hat vor Jahren entschieden, dass künftig ein Computerprogramm Richtern dabei helfen soll zu entscheiden, welches Strafmaß ein verurteilter Straftäter bekommen soll. Der Algorithmus soll vorhersagen, wie hoch das Risiko ist, dass ein Delinquent in den kommenden drei Jahren wieder straffällig wird und damit eine Gefahr für die öffentliche Sicherheit darstellt. Diese Bewertung soll ab 2019 in die Urteile einfließen. Dafür nutzt das Programm Variablen wie das Alter des Verurteilten, sein Geschlecht, Informationen zu seinem Verbrechen und zu früheren Verurteilungen bis zurück ins Jugendalter.

Die Anhörung zu dem Programm im Saal 504, zu der Juristen geladen haben, verläuft hitzig. Die Hautfarbe spielt als Variable beim Algorithmus zwar keine Rolle. Doch NGO-Vertreter warnen, dass das System die schon bestehende Diskriminierung von Schwarzen dennoch verstärken werde. Schwarze werden in den USA häufiger polizeilich kontrolliert als Weiße. Das trägt dazu bei, dass sie im Vergleich zu Weißen häufiger im Gefängnis landen. Ein System, das Vorverurteilungen in die Risikoanalyse einbeziehe, schreibe die Diskriminierung fort.

Die Nutzung von Computerprogrammen zur Bewertung und Beurteilung von Menschen ist seit Jahrzehnten gängige Praxis (siehe Seite 3). Florian Cech, der sich am Center for Informatics and Society der TU-Wien mit algorithmischen Systemen beschäftigt sagt, dass sich ein Wandel vollzieht: „Die Nutzung von Algorithmen dringt in neue Lebensbereiche vor. Die Auswirkungen für Menschen werden weitreichender.“Wenn wir auf Amazon ein falsches Produkt angeboten bekommen, ist das einzige Risiko, Zeit zu verschwenden. Die Entscheidung, wer auf Bewährung freikommt, wen die Fürsorge aufsucht und welches Angebot eine Arbeitsagentur macht, sind schwerwiegender.