„Inakzeptables“Versagen bei Googles Gemini

Historisch inkorrekte Bilder der Google KI Gemini führten zu heftiger Kritik.

Mountain View. Gemini, ehemals Bard, ist das Flaggschiff der künstlichen Intelligenz von Google. Der Versuch, Gemini eine möglichst vorurteilsfreie, nicht diskriminierende Bildsprache zu lernen ging aber nach hinten los. Nachdem der lernfähige Algorithmus aufgefordert wurde historische Bilder von Menschen zu erstellen, erzeugte er sehr ungenaue Inhalte wie eine Päpstin mit indischer Hautfarbe oder Wikinger als „People of Colour“. Menschen weißer Hautfarbe waren für die KI nur „schwer anzuerkennen“, wie ein Ex-Mitarbeiter berichtete. Die hundertfach reproduzierten, millionenfach geteilten Pannen der KI sorgten weltweit für Spott und Kritik.

Nachricht an Mitarbeiter

Nun reagierte Sundar Pichai, CEO der Google Mutter Alphabet Inc., auf die Aufregung und wandte sich per E-Mail an seine Mitarbeiter. Er sprach die problematische Bildgenerierung der KI an und bezeichnete sie als „völlig inakzeptabel“. Die Teams arbeiten nun rund um die Uhr, um die Probleme zu beheben, schrieb Pichai in seiner Nachricht. Der Vorstandsvorsitzende von Alphabet und Google betonte die Notwendigkeit für das Unternehmen, unvoreingenommene und genaue Informationen zu liefern und sagte, dass strukturelle Änderungen vorgenommen werden, um ähnliche Vorfälle in Zukunft zu verhindern.

Das in Mountain View, Kalifornien, ansässige Unternehmen hat die Eingabe von Menschen in seinem Bildgenerator gestoppt, während es daran arbeitet, die Bedenken auszuräumen. „Wir werden eine Reihe von Maßnahmen ergreifen, darunter aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, robuste Bewertungen und Red-Teaming sowie technische Empfehlungen“, schrieb Pichai und forderte, sich auf „hilfreiche Produkte zu konzentrieren, die das Vertrauen unserer Nutzer verdienen.“Der Boom des Interesses an und der Nutzung von KI hat eine Welle der genaueren Überprüfung mit sich gebracht, wobei viele Kritiker auf das Potenzial für KI-erstellte Inhalte hinweisen, die entweder absichtlich oder versehentlich in die Irre führen. (Bloomberg/jup)