Gefährliche Software
Die Vorstellung ist erst mal absurd: Kann Software Menschen töten? Nein, würde man spontan antworten, eine Anhäufung von Nullen und Einsen ist dazu kaum in der Lage. Es ist der Mensch, der versagt, nicht der Algorithmus. Nach den zwei tragischen Abstürzen der Boing-737-maschinen in jüngster Zeit fragt man sich aber, ob dem wirklich so ist. In beiden Fällen war es vermutlich so, dass eine Software mit falschen Daten gefüttert wurde und die Flugzeuge zum Absturz brachte. Die Piloten versuchten, dagegen anzugehen, die Software behielt aber die Oberhand. Dass sie abzuschalten gewesen wäre, wussten die Piloten anscheinend nicht. Mensch gegen Maschine – inzwischen scheinen die Menschen diesen Kampf häufiger zu verlieren. Dass autonom fahrende Autos sicherer seien als menschlich geführte – das ist auch so ein Mythos, den vorwiegend Techniker gerne immer wieder befeuern. Schneller und präziser könnten Sensoren und Algorithmen reagieren, so das Argument. Wirklich? Bei einfachen Aufgaben (Fahrzeug von rechts, bremsen) mag das stimmen, bei komplexen Situationen wohl kaum. Sind dann noch Sensoren verstopft, Kameras verschmutzt, wird es endgültig gefährlich. Wenn eine Software entscheiden muss, ob das auf der Straße stehende Reh oder der Baum am Straßenrand das weniger tödliche Ziel darstellt, möchte man selbst nicht im Auto sitzen. Dass in kurzem Abstand zwei Mal hintereinander ein Flugzeug abstürzt, weil die Software es dazu gebracht hat, obwohl die Piloten es besser wussten, ist ein Skandal. Er sollte uns daran erinnern, dass bei allem Fortschritt durch Technik die Skepsis nie verloren gehen darf – gerade, wenn Technik über Leben und Tod entscheidet.