„Maschinen können nicht besser entscheiden“
Die Digitalisierung bringe keine radikalen Veränderungen für die Forschung, sagt Wissenschaftsforscherin Helga Nowotny. Die Menschen sollten ihre kritische Urteilsfähigkeit im Umgang mit den Technologien schärfen.
Die Presse: Sie zeichnen im Jahrbuch zu den diesjährigen Alpbacher Technologiegesprächen das Szenario einer Welt im Jahr 2038, in der ein Supercomputer die Folgen des Handelns berechnet. Ein Gedankenspiel oder halten Sie es für realistisch, dass sich soziales Handeln einmal simulieren lassen wird? Wie wir alle wissen, ist die Zukunft ungewiss. Ich habe es reizvoll gefunden, zu überlegen, was ein solcher Simulator leisten könnte, und zwar im positiven Sinn. Es werden ja mit den neuen Technologien sehr oft die negativen Folgen, dystopische, apokalyptische Vorstellungen in Ver- bindung gebracht, bis dahin, dass Maschinen das Weltall übernehmen und wir verschwinden. Mit dem Simulator wollen wir zeigen: Was würde passieren, wenn den Menschen bewusst gemacht wird, was immer sie entscheiden, hat Folgen. Der Simulator schaut ein Stück weit in diese Komplexität hinein.
Reflektieren wir zu wenig in dieser Hinsicht? Wir reflektieren zu wenig und unsere Vorhersagefähigkeit ist nicht nur begrenzt, sondern auch sehr eingeengt. Wir denken dann in linearen Strukturen, verwechseln Korrelationen mit Kausalitäten.
Sie spielen auf Big Data an? Genau.
Sehen Sie die hohen Erwartungen an Big Data skeptisch? Sicher. Was hingegen die Komplexitätsforschung so spannend macht, ist, dass man auch diese nichtlinearen Verknüpfungen besser in den Griff bekommt oder zu verstehen lernt: noch immer sehr eingeschränkt, die Komplexi- tät ist sehr groß. Insofern war das Gedankenspiel ein netter Ausflug in eine Welt, wie sie sein könnte.
Fürchten wir uns zu viel? Ja, eindeutig. Wir fürchten uns, weil es für uns etwas Unbekanntes ist, das mit vielen herkömmlichen Gewohnheiten, Vertrautheiten brechen wird. Und es fällt auch zusammen mit dem gesellschaftlichen Transformationsprozess, in dem wir uns befinden. Es trifft die Einzelnen, trifft die Gemeinschaft, trifft das Verhältnis der Staaten gegenüber dem Markt, geopolitische Verschiebungen – es kommt sehr viel zusammen. Und dann ist es leicht, sich vor einer Technologie zu fürchten.
Wo sehen Sie die Grenzen der Möglichkeiten künstlicher Intelligenz? Ich plädiere sehr für eine Stärkung der kritischen Urteilsfähigkeit. Denn das, was die Maschinen können, ist nur das, was wir ihnen mitgeben. Sie lernen zwar schnell, sie lernen auch aus ihren eigenen Fehlern, aber sie haben keine eigenen Kriterien, um Unterscheidungen treffen zu können. Das sind alles Erklärungen, die wir ihnen über Algorithmen beibringen. Und insofern müssen wir unsere eigene Urteilsfähigkeit schärfen, damit wir nicht glauben, die Maschinen können besser entscheiden als wir.
Sie sind seit Langem eine Beobachterin der Wissenschaft. Wie hat die Digitalisierung diese zuletzt verändert?
(81) wurde in Wien geboren. Sie studierte Jus und machte dann in den USA den PhD in Soziologie. 2002 emeritierte sie als Professorin für Wissenschaftsphilosophie und Wissenschaftsforschung an der ETH Zürich. Sie war Gründungsmitglied und Vizepräsidentin des 2007 etablierten Europäischen Forschungsrats und von 2010 bis 2013 dessen Präsidentin. Sie ist Vorsitzende des ERA Council Forum Austria und Mitglied des Rats für Forschung und Technologieentwicklung. Das hält sich in Grenzen. Es gibt Algorithmen, die es sehr viel leichter machen, z. B. in der Chemie und der pharmazeutischen Industrie neue Wirkstoffe zu suchen –, aber das sind Automatisierungsprozesse, die die Wissenschaft immer genutzt hat, ich sehe da nichts radikal Neues. Auch wenn die Maschinen jetzt besser Muster erkennen – und das ist hochwillkommen –, braucht es immer noch Menschen, die diese Muster interpretieren, denken Sie etwa an den Cern (Teilchenbeschleuniger in der Schweiz, Anm.). Insofern sehe ich in der Wissenschaft keine großen Veränderungen. Es ist ein neues Werkzeug, das der Wissenschaft weiterhilft. Und auch wenn durch ein besser aufgelöstes Bild in der medizinischen Praxis manche Diagnosemöglichkeiten gestärkt werden, sehe ich noch immer den Arzt, der notwendig sein wird, um letzten Endes zu sagen, welche Therapie daraus folgt. Der Mensch wird nicht vollständig ersetzt.
Halten Sie den Hype um die Digitalisierung für übertrieben? Ja. Es gibt wohlmeinende und weniger wohlmeinende Versuche, die Menschen darauf vorzubereiten, das trägt zum Hype bei, aber er ist übertrieben.
Der Titel des von Ihnen in Alpbach geleiteten Arbeitskreises lautete: Alle sollen digital fit sein. Wie fit ist Österreich? Die österreichische Fitness ist verbesserungsfähig. Das beginnt damit, dass wir noch nicht genügend Breitbandabdeckung haben, dass wir in Bezug auf Durchdringung mit Digitalisierungsinfrastruktur im internationalen Vergleich noch Aufholbedarf haben. Aber es geht auch darum, die kritische Urteilsfähigkeit zu stärken: in den Schulen darauf hinzuweisen, die Kinder zu erziehen, wie gehe ich mit Internetnutzung um, wie unterscheide ich Fake News von Nachrichten, die ich ernstnehmen muss, was ist zu tun, um nicht digital abhängig zu werden.
Sie haben in „Die Zeit der Algo- rithmen“geschrieben: „Die Zukunft ist bereits da. Sie ist nur ungleich verteilt.“Ist die Digitalisierung in diesem Sinn eine neue Form, Ungleichheit zu verschärfen – durch den Zugang zu digitaler Infrastruktur und den Fähigkeiten, damit umzugehen? Jede neue Technologie birgt die Gefahr, dass sie zur bestehenden Ungleichheit beiträgt. Das waren die Träume am Anfang, dass es die Ungleichheit aufheben könnte – das hat sich nicht bewahrheitet. Man muss versuchen, die ganze Bevölkerung mitzunehmen, um zu verhindern, dass hier neue Ungleichheiten entstehen oder bestehende verschärft werden.
Wo sehen Sie die größten Herausforderungen der Digitalisierung? In der Regulierung der internationalen Konzerne: Wer zahlt wo Steuern, ist das eine. Aber genauso wichtig ist, das Eigentum an Daten besser oder überhaupt zu regulieren. Dazu müssen die Regierungen den Mut aufbringen, bestehende Monopole aufzubrechen oder deren Entstehung zu verhindern.
Würden Sie persönlich die Steuerung Ihrer gesamten Haustechnik einem Computer übergeben? Nein. Mir kommt es so vor, als würde man den Hausschlüssel unter die Fußmatte legen. Wenn man das tun will und Vertrauen hat, dann kann das gut gehen oder auch nicht. Aber ich würde es nicht tun und würde es auch niemandem raten.