Sicher ohne Gewissen

Sie werden kommen, die autonom fahrenden Autos. Und sie werden Unfälle bauen. Aber bauen sie die Unfälle nach bestem Wissen und Gewissen? Halt, so viel steht fest: Ein Gewissen brauchen sie nicht.

Lassen Sie es mich mit Wolf Haas sagen: „Jetzt ist schon wieder was passiert.“Nämlich Mitte März der erste tödliche Unfall mit einem selbstfahrenden Auto. In Arizona fuhr ein selbstfahrendes Uber-Auto – quasi das Taxi der Zukunft – eine Frau nieder. Laut Experten liegt dem Unfall ein Fehler der Software zugrunde. Auch gibt es Geüchte, Uber könnte das System vor dem Unfall abgeschaltet haben.

Der Vorfall befeuert die Skeptiker gegenüber autonomen Fahrzeugen, und Hand in Hand mit Philosophen und Besserwissern knallen sie ein Trolley-Problem nach dem anderen auf den Tisch – und lenken dabei in die völlig falsche Richtung. Zur Erinnerung: Ein Trolley-Problem ist ein Gedankenexperiment, in dem es um ein fiktives Szenario geht, an dessen Ende zumindest einer stirbt – ein Entscheider hat aber die Wahl, wer stirbt und wer überleben darf.

Ein paar Beispiele

Umgelegt auf autonome Fahrzeuge schaut das dann so aus: Bei einem selbstfahrenden Auto versagen die Bremsen, während eine Gruppe Kinder und eine Gruppe Senioren die Straße quert. Wen soll der Wagen niederführen? Ein anderes Beispiel: Auf einer engen Bergstraße mit Serpentinen, die nicht einsehbar sind, kommt ein Radfahrer entgegen, und das Auto hat die Wahl, den Radler niederzuführen oder über die Klippen zu fahren und das Leben des Lenkers zu riskieren. Ein Gedankenexperiment dreht sich um ein Kind, das aus einer Reihe parkender Autos auf die Straße läuft.

Ich möchte Sie mit diesen Gedanken einen Moment allein lassen. Sie sollen sich gern den Kopf darüber zerbrechen, ob in Ihrer Welt alte Menschen mehr wert sind als junge. Ob Ihnen Ihr Leben wichtiger ist als das eines anderen. Und wie soll ein autonom fahrendes Auto entscheiden?

Nehmen wir gern noch ein paar Faktoren dazu: Der Computer wird den sozialen Status eines Menschen erkennen, ihn schubladisieren können, sei es anhand der Kleidung, der Hautfarbe, oder der Daten, die er via Smartphone bei sich führt. Zählt ein Managerleben mehr als das eines Obdachlosen? Und was wenn er Migrationshintergrund hat? Krebskrank ist?

Während Sie sich mit Fiktivem beschäftigen, hier ein paar Fakten aus der humangesteuerten Autowelt. Nehmen wir den Osterverkehr her. 2017 starben in Österreich am Osterwochenende sechs Personen. Noch einmal: an drei Tagen allein in Österreich.

90 Prozent aller Verkehrsunfällen liegt menschliches Versagen zugrunde. Man kann sich, wenn man je ein Auto aus den 1970erJahren gefahren ist, an einer Hand ausrechnen, dass dieser Anteil gestiegen ist – einfach weil die Autos heute seltener Probleme haben, die zu einem Unfall führen. Der Rückgang der Zahlen geht sogar in großem Maße auf bessere Fahrzeuge zurück. Denken wir nur an Knautschzonen oder Fußgängeraufprallschutz. Erst verkürzte ABS den Bremsweg, heute bremst ein moderner Wagen dank Notbremsassistent selbstständig, wenn er ein Hindernis erkennt.

Das bringt uns zurück zu unseren Gedankenexperimenten und der Idee, dass einem autonom fahrenden Auto die Bremse versagt. Die Unfallstatistiken, die ich gefunden habe, weisen Zahlen für Unfälle mit überhöhter Geschwindigkeit, wegen Alkoholkonsums, Müdigkeit, schlechter Sicht oder Fahrfehlern aus. Bremsversagen finde ich nirgendwo. Warum sollte es dann gerade bei der höchsten Evolutionsstufe der Automobile so häufig auftreten, dass wir uns damit beschäftigen müssen?

Wer an der Programmierung selbstfahrender Autos arbeitet, finden auch das Experiment mit dem Radler polemisch. Wenn ein autonom fahrendes Fahrzeug nicht um die Kurve sieht, fährt es auf halbe Sicht und bliebt vor einer Kollision rechtzeitig stehen.

Ähnlich verhält es sich mit einem Auto, das an parkenden Autos vorbeifährt. Das Auto wird so langsam fahren, dass es rechtzeitig stehenbleiben kann, sollte jemand auf die Straße gehen.

Im Grunde geht auch der Unfall mit dem Uber-Fahrzeug weniger auf technisches als auf menschliches Versagen zurück. Denn dieses autonome Fahrzeug verlangt noch nach einem „Sicherheitsfahrer“, der in heiklen Situationen das Steuer übernimmt. Rechtlich ist damit also die Lenkerin dran, von der ein Video zeigt, dass sie beim Unfall alles andere gemacht hat, als über das selbstfahrende Auto zu wachen.

Psychologischer Hintergrund

Dabei muss aber auch festgehalten werden: Jedem, der mit der Entwicklung solcher Fahrzeuge betraut ist, muss klar sein, dass niemand hinter dem Steuer sitzen wird, der permanent auf die Straße schaut. Weil wir das einfach nicht können, das Bewachen von Ereignissen, die eigentlich keiner Aufmerksamkeit bedürfen. Je besser das System von allein funktioniert, desto verlockender ist die Ablenkung. Ganze GangsterfilmVideotheken basieren auf dem Wachmann, der nicht in seine Monitore schaut, während die Panzerknacker den Safe ausräumen.

Schwedische Wissenschafter haben untersucht, wie schlecht wir darin sind, ein selbstständig fahrendes Fahrzeug zu bewachen: Man ließ Probanden mit einem autonom gesteuerten Auto fahren und gab ihnen irgendwann ein Signal, das Fahrzeug wieder zu übernehmen. Man maß die Zeit, die verging, bis der Fahrer wieder komplett Herr der Lage war. Im Schnitt vergingen dabei bis zu 15 Sekunden. Wenn man bedenkt, dass wir gern nicht einmal eine Sekunde Sicherheitsabstand halten, kann man sich ausmalen, was wirklich passiert, wenn so ein System Hilfe braucht.

Ja, auch bei selbstfahrenden Autos wird es Tote geben – etwa wenn sich jemand mutwillig vor so ein Auto schmeißt. Da ist aber nicht das Auto schuld. Oder wenn mehrere Systeme gleichzeitig versagen. Da ist das Auto schuld.

Allerdings: Die Gefahr, die wir in Gedankenexperimenten selbstfahrenden Autos andichten, sind Fehler, die wir permanent beim Autofahren machen: zu hohe Geschwindigkeit, zu wenig Aufmerksamkeit, zu viele Emotionen. Ein selbstfahrendes Auto aber, das lässt sich nicht ablenken, wird nicht müde, und es ist auch nicht in seiner Eitelkeit gekränkt, wenn man es schon zum x-ten Mal schneidet, nicht genervt, wenn es schon seit zehn Minuten im Stau fahren muss. Da hat uns das selbstfahrende Auto gleich viel voraus. Nämlich so viel, dass es gar kein Gewissen braucht. Nein, wir werden nicht alle wie der Knight Rider einen K.I.T.T. fahren, der mit uns tratscht, uns die Welt erklärt, halbseiden witzig ist und Verbrecher am Schmäh hält. Die autonomen Fahrzeuge, die wir fahren werden, werden zwar dank Sprachassistenten mit uns reden, aber nicht wie ein Kumpel, eher wie ein Knecht. Und sie werden so defensiv fahren, dass sie ja nie in Kollisionsgefahr kommen.

Langeweile als Gefahr?

Aber dann ist die autonome Mobilität unendlich langsam, werfen Kritiker ein, und wir langweilen uns zu Tode, weil nichts weitergeht. Zum einen ist unsere Mobilität immer schneller geworden. Zum anderen liegt bei Langeweile wieder menschliches Versagen vor. Denn wenn wir uns die Zeit von A nach B richtig gut vertreiben, dann ist sogar die Gefahr größer, dass man eine Viertelstunde zu früh als zu spät am Ziel ist, etwa weil der Film, den man sich anschaut, noch nicht vorbei, sondern im Gegenteil, gerade wahnsinnig spannend ist.

Ich indes würde zu einem Buch von Wolf Haas greifen. Weil dort immer wieder was Launiges passiert. Und keine Sorge, selbst bei der Frequenz, mit der Haas neue Romane veröffentlicht, gehen sich noch drei neue Bücher aus, bis wir in Österreich autonom fahren.