Kredit nur mit dem richtigen Vornamen?
Algorithmen arbeiten oft im Verborgenen. Die Entscheidungen, die sie treffen, bestimmen aber unser Leben. Zum Beispiel bei der Kreditvergabe.
sagte Diemer dem Magazin Cicero. Algorithmen sind aber nicht ohne. So veröffentlichte die Princeton-Informatikerin Aylin Caliskan kürzlich eine Studie, nach der künstlich intelligente Systeme Rassismus und Sexismus reproduzieren. Frauen sah der Algorithmus näher an Blumen und Begriffen wie Krankenschwester und Familie, Männer in der Nähe von Ingenieuren und Wissenschaftlern. Afroamerikanische Vornamen wurden häufiger mit negativen Wörtern verbunden als alteuropäische. Krishna Gummadi vom Max-Planck-Institut für Softwaresysteme in Saarbrücken widmet sich seit Jahren den Vorurteilen der Maschinen. „Man muss wissen, dass diese Algorithmen meist lernen, indem sie versuchen, die Entscheidungen von Menschen nachzuahmen“, sagte Gummadi in einem Interview mit dem Tagesspiegel. Dafür brauchen sie riesige Datenmengen. „Algorithmen, die einschätzen sollen, wie kreditwürdig jemand ist, lernen das, indem sie sich die Vergabe-Entscheidungen von Bankern anschauen. Auch die haben unter anderem nach Alter, Vermögen, Adresse, Geschlecht und Herkunft ausgewählt. In den USA werden oft schwarzen Menschen keine Kredite gegeben. Weil der Algorithmus aber ein Trainingsziel braucht, versucht er, sein Modell so zu optimieren, dass er die gleichen Entscheidungen trifft, die ein Mensch treffen würde“, sagte Gummadi. Der saarländische Sparkassenverband gibt indessen Entwarnung. „Bei uns bekommt Paul genauso einen Kredit wie Willi. Auch die Postleitzahl spielt bei der Entscheidung über eine Kreditvergabe keine Rolle“, teilte der Verband auf Anfrage mit. Kredite würden immer nach einer individuellen Überprüfung vergeben. Kunden würden nicht von vornherein negativ bewertet. „Natürlich fragen wir auch jede Menge Informationen ab, dazu sind wir auch nach dem Kreditwesengesetz verpflichtet“, sagt Verbandspräsident Christian Molitor. „Die werden dann zu einem Rating verdichtet.“ Ganz allgemein ist ein Algorithmus eine Reihe von Anweisungen, die Schritt für Schritt ausgeführt werden, um ein Problem zu lösen oder eine Aufgabe zu bewältigen. Beispielsweise gibt es den Google-Algorithmus, der bestimmt, wann welche Seite in den Suchergebnissen auf welcher Position gezeigt wird. Der Begriff stammt vom Universalgelehrten al-Chwarizmi, was auf Latein Algorismi bedeutet.