Künstliche Intelligenz Fragen nach dem Menschsein
Katharina Zweig berichtet von falschen Entscheidungen und Verantwortungsfragen. Lisz Hirn widmet sich einer Anthropologie der Verletzlichkeit und, wie Jörg Phil Friedrich, der Frage, was Menschsein bedeutet. Catrin Misselhorn denkt philosophisch über Auswirkungen auf den Bereich der Kunst nach. Johannes Caspar spricht sich für ein menschengerechtes Einsetzen von Künstlicher Intelligenz aus.
Die KI war’s!
Katharina Zweig ist Professorin an der TU Kaiserslautern-landau, wo sie den ersten deutschen Lehrstuhl für Sozioinformatik ins Leben gerufen hat. Im vorliegenden Buch geht es ihr um die Frage, „unter welchen Bedingungen man Entscheidungen von Computern infrage stellen kann und welche Antworten wir erwarten können“(S. 11).
Diverse Perspektiven zu KI
Teil I macht mit Grundbegriffen vertraut. Von zentraler Bedeutung ist es, zu verstehen, dass „hinter allen Algorithmen erst einmal ein Modell im Kopf seiner Entwicklerinnen und Entwickler steht, bevor die Maschine dann ebenfalls ein statistisches Modell berechnet, auf dessen Grundlage alle maschinellen Entscheidungen beruhen“(S. 27). Während ersteres, die sogenannte äußere Modellierung, gut nachvollziehbar ist, bleibt die innere Modellierung nur „schlecht zugänglich“(S. 75), weil sie aus der angewandten Methode und – ganz zentral! – dem verwendeten Trainingsdatensatz emergent entsteht.
Teil II erzählt sieben wahre, zum Teil abstrus anmutende Geschichten, in denen Computer offensichtlich falsche Entscheidungen getroffen haben, die teils dramatische Auswirkungen auf das Leben der betroffenen Personen hatten. Die Analyse, wie es zu diesen Situationen kommen konnte, zeigt, dass es in der „langen Kette der Verantwortlichkeiten“(S. 149) meistens mehrere Fehler von beteiligten Personen gab, angefangen von Softwareentwickler:innen über die oftmals institutionellen Nutzer:innen bis hin zu den Betroffenen selbst.
Teil III verhandelt automatisierte Entscheidungen, von denen einige auf individueller Ebene nachprüfbar sind, andere hingegen nicht. Zu den letzteren gehören z. B. statistische Entscheidungen oder solche, die auf Werturteilen beruhen (wie z. B. die Vergabe von Noten). Für die Autorin steht fest, dass „das Vorhandensein von Werturteilen in einem Entscheidungsprozess ganz grundsätzlich darauf hinweist, dass Maschinen diesen Prozess nicht übernehmen können“(S. 217).
Teil IV wirf einen Blick auf die Zukunft von Mensch-computer-entscheidungen. Am Beispiel des österreichischen Arbeitsmarktservice wird ein detaillierter Vergleich zwischen der maschinellen und der menschlichen Beurteilung der Integrationschancen von Arbeitslosen angestellt. Daran wird deutlich, welche Themen auf uns zukommen: wann wird die Entscheidungsqualität von Maschinen besser sein als die von Menschen, kann sie das überhaupt, und letztlich: „Wen wollen wir in Zukunft wie entscheiden lassen?“(S. 251).
Das Buch schließt mit dem Kapitel „Widerspruch lohnt sich“. Es zeichnet nach, wie einige Fehlentwicklungen durch das engagierte Aktivwerden Einzelner korrigiert werden konnten und plädiert für eine „klare und breit geführte gesellschaftliche Diskussion, wann wir welche Form von automatisierten Entscheidungssystemen nutzen wollen und wie diese Nutzung abgesichert werden sollte“(S. 273).
Der Mensch im Mittelpunkt
Das Buch besticht durch eine Fülle an Beispielen, in denen die „Tücken der künstlichen Intelligenz“(siehe Untertitel) konkret greifbar werden. Es erliegt weder der Versuchung, die KI in den Himmel zu loben noch sie zu verteufeln: auf leicht verständliche Art und Weise zeigt es die Möglichkeiten der KI einerseits und ihre fundamentalen Begrenzungen andererseits auf (die sich auch durch noch leistungsfähigere Systeme nicht werden lösen lassen): damit rückt statt der KI der Mensch wieder in den Mittelpunkt. Jean-marie Krier