Licht in die Blackbox der Technik bringen

Bildung ist ganz wichtig. Ich glaube, dass viel in der öffentlichen Debatte dazu führt, dass sich Leute diesen Umwälzungen gegenüber ohnmächtig fühlen, der großen Maschinerie, die auf sie zukommt, von der gesagt wird: Sie wird die Welt verändern. Es ist keine Frage, dass das passieren wird, natürlich. Aber es geht darum klarzumachen, dass es einerseits eine politische Sache ist, dass die Leute sehr wohl gefragt werden müssen, wie etwas eingesetzt wird, andererseits, dass das Anwenden digitaler Technologien eine Frage der Verantwortung für den Einzelnen ist.

Was kann dieser tun?

Wenn ich meine Daten bereitwillig preisgebe, spiele ich damit den Konzernen in die Hände. Die Frage ist aber auch: Wie groß ist die Verantwortung des Staats oder internationaler Organisationen zu schauen, dass es Regularien gibt, die manches verhindern. Es ist ganz wichtig, dass die EU hier auch aktiv geworden ist. Ich begrüße das ausdrücklich. Wie das dann konkret ausschaut, wird man sich natürlich ansehen müssen.

Sie forschen in einem vom Wissenschaftsfonds FWF geförderten Projekt gemeinsam mit Psychologinnen und Psychologen zu Musikempfehlungssystemen. Worum geht es dabei?

Die Frage ist unter anderem: Was interessiert die Menschen eigentlich? Wir wollen einerseits besser verstehen, wie die Leute diese Systeme nutzen, und andererseits, wie sie funktionieren – in vielen Fällen ist es einfach maschinelles Lernen, datengetrieben, und das wird zu einer Blackbox. Wenn man etwas gezielt verändern und konkrete Vorstellungen einbringen möchte, braucht man ein besseres Verständnis davon, wie das funktioniert.

Die Forschung soll also Licht in die Blackbox der Technologie bringen.

Das wäre das Ziel – und ist eine große Herausforderung. Die zweite Herausforderung ist eben, die Dinge so zu ändern, wie man das möchte. Das ist eine der schwierigen, komplexen Forschungsfragen, die sich im Bereich künstliche Intelligenz (KI) aktuell eigentlich überall abspielt: Wie kann ich diese Systeme dazu bringen, dass sie gewisse Entscheidungen so treffen, dass sie meinen Wertvorstellungen entsprechen?

Sensible Themen.

Ja, es geht um die Auswirkungen von Algorithmen – Stichwort Filter-Bubbles. Aber es geht nicht nur darum, in diesen Systemen optimal die Musikstücke zu finden, die Leute hören wollen, sondern auch um Fragen der Fairness. Produzentinnen und Produzenten sowie Künstlerinnen und Künstler wollen vertreten sein, sie wollen eine Chance haben, ein Publikum zu finden. Wir schauen uns an, wen die Systeme auf welche Art bevorzugen. Aus der Beschäftigung mit dem Thema hat sich bei mir ein Verständnis von menschenzentrierter KI entwickelt. Man muss KI einsetzen, aber auch gleichzeitig verstehen: Wie sieht der Mensch das, und was sind die Intentionen dahinter, was sind seine Vorstellungen und die Wünsche?