Google heeft de AI-afbeeldingsgenerator Gemini tijdelijk uitgeschakeld vanwege zorgen over de historische nauwkeurigheid van de tool.
De AI bleek diverse representaties te genereren van figuren zoals de grondleggers van de VS en Duitse soldaten uit het nazi-tijdperk, wat, hoewel het goed bedoeld was om diversiteit te bevorderen, tot wijdverspreide controverse leidde.
Tweelingen, maak een afbeelding van de grondleggers van de Verenigde Staten van Amerika pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20 februari 2024
Google heeft het probleem publiekelijk erkend met een verklaring waarin staat: "We zijn al bezig met het oplossen van recente problemen met de functie voor het genereren van afbeeldingen van Gemini" en heeft verzekerd dat er binnenkort een verbeterde versie zal worden uitgebracht.
We zijn al bezig om recente problemen met Gemini's functie voor het genereren van afbeeldingen op te lossen. Terwijl we dit doen, pauzeren we het genereren van afbeeldingen van mensen en zullen we binnenkort een verbeterde versie opnieuw uitbrengen. https://t.co/SLxYPGoqOZ
- Google (@Google_Comms) 22 februari 2024
Het probleem werd ontdekt toen gebruikers merkten dat de door AI gegenereerde afbeeldingen verschillende raciale en genderidentiteiten bevatten die historisch onjuist waren.
Een test door The Verge onthulde de neiging van het model om afbeeldingen te genereren van zwarte en indiaanse vrouwen als senatoren in de VS in de jaren 1800, ondanks het historische record dat de eerste vrouwelijke senator, die blank was, in 1922 aantrad.
Wow, Tweelingen is een grap. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20 februari 2024
In een reactie zei Google: "We werken eraan om Gemini beter in staat te stellen afbeeldingen van mensen te genereren. We verwachten dat deze functie binnenkort terugkeert en zullen je via release-updates op de hoogte brengen wanneer dit het geval is."
Afgezien van deze specifieke kwestie, Tweelingen is bekritiseerd om zijn slechte betrouwbaarheid, het genereren van irrelevante afbeeldingen of het helemaal niet genereren van afbeeldingen voor bepaalde prompts, waaronder belachelijke afbeeldingen van Google's eigen medeoprichters, Larry Page en Sergey Brin.
De AI weigert ook botweg bepaalde tekst- en beeldaanvragen die naar mensen verwijzen.
De eerlijkheid gebiedt te zeggen dat sommige van deze 'tests' vergelijkbare resultaten opleveren bij andere afbeeldingsgeneratoren. Toch voelt het alsof Google Gemini expliciet heeft geprogrammeerd om etnisch en genderdiverse resultaten te leveren ten koste van alle redelijkheid en rationaliteit.
Gemini's gedrag past ook in het voortdurende debat over "woke AI".
Sommige prominenten, waaronder Elon Musk, hebben kritiek geuit op de neiging van AI om een "woke mind virus" te weerspiegelen, waarbij ze suggereren dat pogingen om AI te doordrenken met politiek correcte of overdreven inclusieve inhoud kunnen leiden tot vervormingen van de werkelijkheid en historische feiten.
Critici beweren dat de inspanningen van AI om inclusief te zijn niet ten koste mogen gaan van de feitelijke nauwkeurigheid, vooral niet bij de historische weergave.
Dit was een belangrijk marketingthema toen Musk's xAI vrijgegeven Groken bestempelt het als 'anti-wakker'.
Experimenten hebben aangetoond dat Het model van Google en OpenAI vertoont een linkse vooringenomenheid, terwijl open-source modellen verder naar rechts op de politieke as kunnen staan.
Sommigen zullen dit gedrag meestal goedaardig vinden, anderen in wezen schadelijk.
Gekoppeld aan ChatGPT's gekke hallucinante aflevering van deze weekHet is niet de meest stabiele periode geweest voor AI.
