Dumme Maschinen. Oder der Hype um künstliche Intelligenz
Sie fasziniert, krempelt Wirtschaft und Gesellschaft um. Und doch ist Ehrfurcht vor künstlicher Intelligenz fehl am Platz.
Man will sich die Hände waschen, doch der Seifenspender gibt keine Seife frei – nicht weil der Behälter leer ist, sondern weil die Haut der Hände zu dunkel ist. Oder man bewirbt sich um eine Arbeitsstelle und schafft es nicht einmal in die erste Auswahlrunde – nicht deshalb, weil die Qualifikation ungenügend war, sondern weil man eine Frau ist.
Das sind peinliche Fehler von Computern, wie sie mittlerweile die Runde machen. Ob der Seifenspender in den USA noch in Verwendung ist, ist unklar. Doch Amazon hat die diskriminierende Software bei der Auswahl von Bewerberinnen und Bewerbern längst abgeschaltet, da es sich kein Unternehmen heutzutage leisten kann, hoch qualifizierte Frauen auszuschließen.
Was gut an Beispielen wie diesen ist: In die Schwärmerei für die Möglichkeiten der künstlichen Intelligenz, die mittlerweile in der Wirtschaft und in Innovationsnetzwerken epische Ausmaße annimmt, mischt sich langsam gesunder Skeptizismus. Die Wahrheit ist nämlich: Die künstliche Intelligenz (KI) ist menschengemacht und steht erst am Anfang. Selbst wenn sie in allen Lebens- und Wirtschaftsbereichen Einzug hält, ist sie nicht so klug, wie der Begriff vermuten lässt. Ehrfurcht vor ihrer künftigen Macht ist angebracht, nicht jedoch vor allen aktuellen Ergebnissen. Man nehme nur das eingangs erwähnte Beispiel von Amazon: Der Algorithmus, der Frauen unabsichtlich aus den Bewerbungen aussiebte, hat nicht durchschaut, dass Frauen gut bewertete Begriffe wie „executed“(realisiert) oder „captured“(erfasst, ergriffen) offenbar seltener verwenden als Männer.
Zusammenhänge, die der Mensch nicht durchschaut, kann die Maschine automatisch lösen. Im Gegenteil, wenn man sie mit den Daten von bisher erfolgreichen Amazon-Mitarbeitern füttert, weiß man nicht, ob diese wirklich die besten am Markt verfügbaren Kandidaten waren. Viel wahrscheinlicher ist, dass es sich um eine verzerrte, nicht repräsentative Stichprobe überwiegend weißer Männer handelt, die zu falschen Schlüssen führt.
Hoffentlich beschäftigen sich viele europäische Unternehmen und Forschungseinrichtungen mit künstlicher Intelligenz, denn man darf diese Querschnittstechnologie weder den USKonzernen noch China überlassen. Was neben verzerrenden Algorithmen noch völlig unerforscht ist, sind die sozialen Auswirkungen: Was richtet sie in der Gesellschaft an? Wie verändert sie das Verhalten der Menschen, wenn Maschinen immer mehr Entscheidungen beeinflussen? Eines ist klar: Man muss vor jeder Bewerbung den Algorithmus analysieren, um reelle Chancen zu haben, falls etwas falsch läuft. Es ist der Mensch, um den es geht. Er muss am Steuer bleiben – nicht die Maschine.