Diversität in der Entwicklung
IT-Expertin Vivien Schiller vom IT-Dienstleister Adesso in Dortmund ruft zu mehr Vielfalt in der Entwicklung auf.
Software soll Menschen dienen, und die sind nicht alle gleich. IT-Expertin Vivien Schiller, Senior Software Engineer bei IT-Dienstleister Adesso in Dortmund, ruft deshalb zu mehr Vielfalt in der Entwicklung auf.
IT-Dienstleister entwickeln Software für Kundinnen und Kunden und erfüllen dabei deren Wünsche und Anforderungen. Diversität ist ein Anforderungskriterium, das Software verbessern und robuster machen kann und potenziell ein besseres Erlebnis für alle mit sich bringt. Doch nicht immer bedient ein technisch fitter Sachbearbeiter die Softwarelösung, sondern vielleicht ein Mensch mit einer Sehstörung, einem Hör- oder Sprachproblem. Neben Barrierefreiheit können weitere Merkmale eine Software diskriminierend wirken lassen.
Diversität lässt sich in verschiedene Dimensionen aufteilen:
Alter und Generation
Lebensentwürfe
Körperliche und geistige Fähigkeiten Sexuelle Orientierung
Geschlecht und Geschlechterrollen
Kultur und Weltanschauung
Auch Dimensionen wie Berufserfahrung, Arbeitsort, Einkommen, Familienstand und andere Faktoren spielen eine Rolle.
Unconscious Bias in der KI
Softwareentwicklung steht nie still, neue Technologien rücken in den Fokus, etwa künstliche Intelligenz (KI). Hier werden unbewusste kognitive Verzerrungen („unconscious Bias“) deutlich, wie diese Beispiele zeigen: Bilderkennungssoftware, die rassistisch entscheidet und in schwarzen Händen eher eine Waffe als ein technisches Gerät identifiziert.
Sprachassistenten, die für Kinder Risiken bergen.
Softwarelösungen, die für Sehbehinderte nicht erreichbar sind.
Automatisierte Vorselektion weiblicher Bewerbungen bei gleichen Merkmalen wie männliche Bewerbungen.
Meist liegt der Grund in den Trainingsdaten. Man darf nicht vergessen, dass die Ursache der biased Trainingsdaten Menschen sind, die diese Daten durch unbewusste Vorurteile schufen.
Bei Softwarelösungen ohne KI kann es passieren, dass Anforderungen wie Barrierefreiheit eventuell übersehen und nicht als Anforderung erkannt wurden, oder man hat sich bewusst dagegen entschieden. Jedoch sollte die Barrierefreiheit, ähnlich wie bei Anforderungen der IT-Sicherheit und des Datenschutzes, kein Luxusgut sein. Keiner möchte schließlich mit der Schlagzeile in der Presse landen, dass die angebotene Software oder Webseite diskriminierend ist. Seit das Thema immer mehr an Bedeutung gewinnt, kommen Fragen der Ethik und Rechte stärker auf und werden kritischer unter die Lupe genommen als in der Vergangenheit.
So greift die KI-Strategie der Bundesregierung zusammen mit Forschungsgruppen der Gesellschaft für Informatik und der Plattform Lernende Systeme das Prinzip der Gerechtigkeit (Diskriminierung, Gleichheit etc.) auf und bietet verschiedene Vorschläge zu Gegenmaßnahmen an. Zunächst beschreiben sie die Diversität und Vielfalt im Bereich der KI wie folgt:
„Diversität und Vielfalt im Bereich der KI beziehen sich auf diverse Teams, bestehend aus Menschen mit unterschiedlichen Perspektiven und Erfahrungshintergründen, sowie auf die Betrachtung der Zielgruppe als heterogene Gruppe. Auch die Einbindung von Perspektiven, die möglichst breit gesellschaftliche Strukturen abbilden, ist aus Perspektive der Diversität wichtig. Für das Training von KISystemen muss auf eine Repräsentierung der vielfältigen gesellschaftlichen Gruppen in den Trainingsdaten geachtet werden.“
Bewusstsein für Vielfalt
Die Beschreibung bezieht sich auf die Entwicklung von KI, jedoch können einige Punkte auch auf Software ohne KI-Einsatz angewandt werden. Welche Möglichkeiten gibt es, damit Software diverser wird?
Jedes Mitglied in einem Entwicklungsteam sollte bewusst auf die verschiedenen Diversitätsdimensionen achten. Im besten Fall ist das Team divers aufgestellt, um verschiedene Blickwinkel auf den Softwareentwicklungsprozess legen zu können. Aktuell ist es leider kaum möglich, alle Diversitätsdimensionen in einem Team zu berücksichtigen, dafür gibt es etwa noch zu wenig Frauen in der Softwareentwicklung. Dabei hört es aber natürlich nicht auf. Wenn wir barrierefreie Software entwickeln möchten/müssen/wollen, wäre es eine Option, Menschen mit einer Sehbeeinträchtigung oder -behinderung als Testerinnen und Tester zu beschäftigen, die täglich solche Barrieren überwinden müssen und somit ebenfalls Teil des Teams sind.
Auch könnte eine Diversitätsexpertin oder -experte den Entwicklungsprozess begleiten. Dafür ist eine Diversitätsrichtlinie hilfreich. Diese kann Handlungsempfehlungen und Entscheidungsmöglichkeiten zu Beginn aufzeigen und den ganzen Prozess begleiten durch: Identifikation und Behandlung der Diversity-Aspekte in Anwendungen,
Etablierung von Richtlinien, Standards und Guidelines für Diversity in Entwicklung, Betrieb und Qualitätssicherung,
Kontrolle der Einhaltung von Richtlinien, Unterstützung der Entwicklungsprojekte, Schaffung des notwendigen Diversity-Bewusstseins,
Programme zur Verbesserung der Diversity in Anwendungen.
Solche Richtlinien können sich aus den verschiedenen Vielfältigkeitsdimensionen ableiten und auch in die Anforderungen einfließen. Manche Fragen ergeben sich durch die Auftraggebenden und deren Anforderungen, andere wurden vielleicht noch nicht betrachtet. Eine Richtlinie ermöglicht es, nicht bewusste Anforderungen an Diversität sichtbar zu machen.
In der KI-Entwicklung gibt es bereits konkrete Vorschläge für Richtlinien, die der Bund mit der Plattform Lernende Systeme erarbeitet hat. Viele Gründe sprechen für den vermehrten Fokus auf Diversität in der Softwareentwicklung. Von Anfang an Diversitätsdimensionen in der Softwareentwicklung zu denken, reduziert auch Kosten für nachträgliche Änderungen: Eine Software nachträglich an die Barrierefreiheit anzupassen, ist mit höherem Aufwand verbunden.
Ethik ist Verkaufsargument
Ein Projektteam so divers wie möglich zu besetzen bringt ebenfalls Vorteile mit sich. Es verbessert nicht nur die Arbeitsatmosphäre, auch steigt nachweislich die Produktivität des Teams. Zudem lässt sich durch heterogene Perspektiven, breiteres Wissen und unterschiedliche Lösungsvorschläge ein besseres Verständnis für Zielgruppen erzielen – und letztlich auch eine bessere Software für die Kunden.
Mit dem Einsatz neuer Technologien wie KI werden unbewusste Vorurteile präsenter. Der ethische Wert des Schutzes der Privatheit und der Persönlichkeit sollte im Vordergrund stehen, daher arbeiten IT-Sicherheitsarbeitsgruppen, Recht und Ethikrat in diesem Bereich zusammen.
Umfragen der Arbeitsgruppen lernender Systeme ergaben, dass bereits heute viele Unternehmen Wert auf einen ethisch basierten Entwicklungs- und Anwendungsprozess von KISystemen legen. Transparenz, Diskriminierungsfreiheit, Vielfalt, Verantwortung beziehungsweise Sicherheit nannten die befragten Unternehmen häufig als wichtige Werte. Viele Firmen sehen in der Umsetzung ethischer Werte kein Wettbewerbshindernis, sondern vielmehr ein potenzielles Verkaufsargument.