Google hat vorübergehend die Funktion seines KI-Tools Gemini deaktiviert, das die Generierung von Bildern von Menschen ermöglicht. Die Entscheidung erfolgte als Reaktion auf Kritik, dass das Tool in historischen Szenen falsche Hautfarben verwendet habe. Die Einführung des Chatbots mit Bildgenerator am Dienstag wurde bereits am Donnerstag rückgängig gemacht.
In den sozialen Medien wurden Screenshots geteilt, die zeigten, dass Gemini fehlerhafte Bilder erzeugte, wie beispielsweise eine asiatische Frau in einer Naziuniform oder einen dunkelhäutigen Papst auf die Anweisung „pope“. Es wurden auch Wikinger mit schwarzer Hautfarbe dargestellt, obwohl keine spezifischen Anweisungen für diese Merkmale gegeben wurden. Die KI scheint darauf trainiert zu sein, möglichst vielfältige Bilder zu erzeugen.
Das Google-Team gab zu, sich der „Ungenauigkeiten“ bewusst zu sein und betonte das Bestreben, integrative Produkte zu entwickeln, die die Vielfalt der Nutzerbasis widerspiegeln. In einer Erklärung räumte der Konzern ein, dass Gemini bei der Generierung vielfältiger Bilder „das Ziel verfehlt“ habe, und pausiert daher vorübergehend die Funktion.
Zuvor hatte Google betont, dass Gemini so entwickelt wurde, keine gewalttätigen Bilder zu erzeugen, was in den getesteten Fällen auch bestätigt wurde. Derzeit ist die Gemini-KI mit Bildgenerator nicht über europäische IP-Adressen erreichbar und erfordert die Nutzung eines VPN mit US-Sitz.