„Selten war Design so wichtig, um Freiheit zu verteidigen. Wir werden es in Zukunft mehr brauchen denn je.“

„Nur die Fahrzeughersteller wissen derzeit im Detail, welche Daten in aktuellen Autos erzeugt, verarbeitet, gespeichert und gesendet werden“, schreibt der ADAC. Ein neuer Mercedes protokolliert minutiös, was der Fahrer tut und wo er ist, und übermittelt diese Daten an den Hersteller. „Bei der Mercedes-b-klasse mit ,me connect‘ fielen folgende Daten auf “, heißt es in der Analyse des Autoclubs, „etwa alle zwei Minuten werden die Gps-position des Fahrzeugs sowie Statusdaten an das Mercedes-backend übertragen; FehlerspeicherEinträge werden teilweise mit Informationen über zu hohe Motordrehzahl oder -temperatur abgelegt (erlaubt Rückschlüsse auf den Fahrstil); gefahrene Kilometer auf Autobahnen, Landstraßen und in der Stadt werden getrennt gespeichert (erlaubt Rückschlüsse auf das Nutzungsprofil); die letzten 100 Lade- und Entladezyklen der Starterbatterie werden mit Uhrzeit und Datum sowie Kilometerstand gespeichert, woraus sich Fahr- und Standzeiten ergeben.“

Wenn das eigene Auto dem Fahrer meldet, es habe „Müdigkeit erkannt“, und ihm im Armaturenbrett eine hässliche Kaffeetasse zeigt – ein Standard in vielen Volkswagen- und Mercedes-fahrzeugen –, und der Fahrer fährt trotzdem weiter und wird in einen Unfall verwickelt: Dann kann das eigene Auto zum Zeugen der Anklage werden; es hatte ihm ja gesagt, er sei müde, warum hat er den Befehl, eine Pause zu machen, ignoriert? Die Situation ist kafkaesk: Wer hat den Algorithmus programmiert, der zur Überzeugung kommt, Augenbewegungen und Fahrverhalten des Fahrers deuteten auf Müdigkeit hin? Wissen wir nicht. Die Folgen sind dramatisch: Die menschliche Lebenserfahrung, die Selbstwahrnehnung und Selbsteinschätzung wird etwa vor Gericht geringer eingeschätzt als das, was der Computer aufgrund undurchsichtiger axiomatischer Programmierentscheidungen als Wahrheit errechnet hat. Genau genommen, kommt das einer Entwertung des sogenannten gesunden Menschenverstands und einer skandalösen Beweislastumkehr gleich: Musste früher bewiesen werden, dass der Fahrer eines Autos übermüdet war, muss er jetzt beweisen, dass der Algorithmus sich irrte.

Nicht nur linke Datenschützer gehen gegen die große Erhebungswut der Digitalkonzerne und ihrer Nutznießer auf die Barrikaden. Der konservative Politiker Doug Ford aus Toronto, wo Sidewalk Labs einen neuen Stadtteil bauen wollte, fragte, ob die Steuerzahler von Google eigentlich genug Geld für das Projekt bekämen, wenn sie den öffentlichen Datenschatz, heute einer der größten kollektiven Reichtümer einer digitalen Gesellschaft und potentieller Quell gigantischer Einnahmen, so bereitwillig an einen Tech-konzern verschenkten.

„Unabhängig davon, was Google anbietet, kann sich der Wert für Toronto unmöglich dem Wert annähern, den Ihre Stadt aufgibt“, schrieb der Risikokapitalgeber Roger Mcnamee an den Stadtrat von Toronto. „Das ist eine dystopische Vision, die in einer demokratischen Gesellschaft keinen Platz hat.“Und laut „Guardian“beschimpfte Jim Balsillie, Mitbegründer des Blackberry-konzerns, das Projekt als „ein kolonialistisches Überwachungskapitalismus-experiment, das versucht, wichtige städtische, bürgerliche und politische Freiheiten mit dem Bulldozer klein zu machen“.

Der Deal ist klar; er lautet: Komfort gegen Freiheit. Die Dinge sind praktisch und dienen ihren Nutzern – aber sie hören, wie schlechte, vom Gegner bezahlte Diener, auch heimlich zu und sagen alles weiter.

Was tun? Hier kommt auch Design ins Spiel. Wer entwirft die Objekte, die es uns erlauben, autonom, unbeobachtet, frei zu bleiben, nicht vorausberechnet, manipuliert, überwacht und mit dem Datenwissen über uns attackiert zu werden? Wo sind die Hüllen und die Programme, die das Handy vor der Verortbarkeit bewahren, die Instrumente, Aufkleber und Deckel, die die auf uns gerichteten Kameras und Ecall-programme blind machen, die Kisten und die Tücher, unter denen Alexa nicht einfach weiterlauschen kann, wo die Scripts, die es erlauben, zu kommunizieren, ohne dass Tech-firmen mithören, und wo sind die schönen Dinge mit den Mustern, die die auswertende Künstliche Intelligenz endgültig durcheinanderbringen – die längst nicht so intelligent ist, wie man denkt:

Forscher des Max-planck-instituts für Intelligente Systeme haben ein abstraktes Muster entwickelt, das in die Geschichte der Ästhetik eingehen wird und fürs digitale Zeitalter das werden könnte, was abstrakte Kunst für die klassische Moderne war. Sie haben es auf ein T-shirt gedruckt und sich vor die Kameras eines selbstfahrenden Autos gestellt. Autonomes Fahren ist nur möglich, wenn diese Kameras ständig Bilder liefern und Algorithmen diese Bilder in Sekundenbruchteilen auswerten und interpretieren.

Bei einer Tagung in Seoul haben die Forscher gezeigt, was passiert, wenn die Überwachungskameras das Farbmuster erfassen, das an fünf rote Finger auf einer abstrakten Weltkugel erinnert: Die Algorithmen kollabieren. Sie können die Form nicht zuordnen. Es kommt, so zeigte das Team von Anurag Ranjan, Joel Janai, Andreas Geider und Michael Black, beim Auftauchen dieses uninterpretierbaren Musters vor einer Kamera zum Kollaps des Interpretationssystems.

Solche Objekte, Muster, Dinge werden wir in Zukunft mehr brauchen denn je. Selten war Design so wichtig, um Freiheit zu verteidigen. Diese Dinge werden die wirklichen Dinge für die Zukunft sein.

Vor diesem Kreis kollabieren die Algorithmen. Davon brauchen wir mehr. Wer entwirft die Objekte, die uns helfen, autonom, unbeobachtet und frei zu bleiben?

1