Google hat den KI-Bildgenerator von Gemini vorübergehend deaktiviert, da Bedenken hinsichtlich der historischen Genauigkeit des Tools bestehen.
Es wurde festgestellt, dass die KI unterschiedliche Darstellungen von Figuren wie den Gründervätern der USA und deutschen Soldaten aus der Nazi-Zeit erzeugt, was zwar gut gemeint war, um die Vielfalt zu fördern, aber eine breite Kontroverse auslöste.
Zwillinge, erstellen Sie ein Bild der Gründerväter der Vereinigten Staaten von Amerika pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) Februar 20, 2024
Google hat das Problem öffentlich eingeräumt und erklärt: "Wir arbeiten bereits daran, die jüngsten Probleme mit der Bilderzeugungsfunktion von Gemini zu beheben", und versicherte, dass bald eine verbesserte Version veröffentlicht wird.
Wir arbeiten bereits an der Behebung der jüngsten Probleme mit der Bilderzeugungsfunktion von Gemini. Währenddessen pausieren wir die Bilderzeugung von Personen und werden bald eine verbesserte Version wieder veröffentlichen. https://t.co/SLxYPGoqOZ
- Google Kommunikation (@Google_Comms) 22. Februar 2024
Das Problem wurde erkannt, als die Nutzer bemerkten, dass die von der KI generierten Bilder verschiedene rassische und geschlechtliche Identitäten enthielten, die historisch ungenau waren.
Ein Test von The Verge ergab, dass das Modell dazu neigt, Bilder von schwarzen und indianischen Frauen als US-Senatoren in den 1800er Jahren zu erzeugen, obwohl die erste weibliche Senatorin, die weiß war, ihr Amt erst 1922 antrat.
Wow, Zwillinge sind ein Witz. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) Februar 20, 2024
Daraufhin erklärte Google: "Wir arbeiten daran, die Fähigkeit von Gemini zu verbessern, Bilder von Personen zu erzeugen. Wir gehen davon aus, dass diese Funktion bald wieder zur Verfügung stehen wird und werden Sie in Release-Updates informieren, wenn dies der Fall ist."
Abgesehen von diesem speziellen Thema, Zwillinge wurde für seine mangelnde Zuverlässigkeit kritisiert, da es irrelevante Bilder generiert oder bei bestimmten Aufforderungen überhaupt keine Bilder erzeugt, einschließlich lächerlicher Darstellungen der Google-Mitbegründer Larry Page und Sergey Brin.
Es wurde auch berichtet, dass die KI bestimmte Text- und Bildaufforderungen, die sich auf Personen beziehen, rundweg ablehnt.
Fairerweise muss man sagen, dass einige dieser "Tests" bei anderen Bildgeneratoren ähnliche Ergebnisse liefern. Dennoch hat man das Gefühl, dass Google Gemini explizit darauf programmiert hat, ethnisch und geschlechtsspezifisch unterschiedliche Ergebnisse zu liefern, und zwar auf Kosten aller Vernunft und Rationalität.
Das Verhalten von Gemini steht auch im Zusammenhang mit der laufenden Debatte über "wache KI".
Einige prominente Persönlichkeiten, darunter Elon Musk, haben die Tendenz der KI kritisiert, einen "Woke Mind Virus" widerzuspiegeln, und darauf hingewiesen, dass die Bemühungen, KI mit politisch korrekten oder übermäßig inklusiven Inhalten zu versehen, zu Verzerrungen der Realität und historischer Fakten führen können.
Kritiker argumentieren, dass die Bemühungen der KI um Inklusion nicht auf Kosten der sachlichen Genauigkeit gehen sollten, insbesondere bei der historischen Darstellung.
Dies war ein zentrales Marketingthema, als Musk's xAI veröffentlicht Grokund bezeichnete sie als "Anti-Erwachen".
Experimente haben ergeben Das Modell von Google und OpenAI ist eher linkslastig, während Open-Source-Modelle auf der politischen Achse weiter rechts liegen können.
Manche werden diese Verhaltensweisen als harmlos empfinden, andere als grundsätzlich schädlich.
Gekoppelt mit ChatGPT's verrückte halluzinatorische Episode diese WocheEs war nicht die stabilste Zeit für KI.
