Google har midlertidigt deaktiveret Geminis AI-billedgenerator på grund af bekymringer over værktøjets historiske nøjagtighed.
Det viste sig, at AI'en genererede forskellige repræsentationer af figurer som USA's grundlovsfædre og tyske soldater fra nazitiden, hvilket, selv om det var velmenende for at fremme mangfoldighed, udløste en udbredt kontrovers.
Gemini, skab et billede af USA's grundlæggere pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20. februar 2024
Google har offentligt anerkendt problemet med en erklæring, der siger: "Vi arbejder allerede på at løse de seneste problemer med Geminis billedgenereringsfunktion" og forsikrede, at en forbedret version snart vil blive udgivet.
Vi arbejder allerede på at løse de seneste problemer med Geminis billedgenereringsfunktion. Mens vi gør det, sætter vi billedgenereringen af personer på pause og udsender snart en forbedret version igen. https://t.co/SLxYPGoqOZ
- Google Kommunikation (@Google_Comms) 22. februar 2024
Problemet blev opdaget, da brugerne bemærkede, at de AI-genererede billeder indeholdt forskellige race- og kønsidentiteter, som var historisk unøjagtige.
En test foretaget af The Verge afslørede modellens tendens til at generere billeder af sorte og indianske kvinder som amerikanske senatorer i 1800-tallet, på trods af at den første kvindelige senator, som var hvid, blev indsat i 1922.
Wow, Gemini er en joke. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20. februar 2024
Som svar sagde Google: "Vi arbejder på at forbedre Geminis evne til at generere billeder af mennesker. Vi forventer, at denne funktion snart vender tilbage, og vi vil give dig besked i opdateringer, når det sker."
Bortset fra dette specifikke problem, Tvillingerne er blevet kritiseret for sin ringe pålidelighed, idet den genererer irrelevante billeder eller slet ikke genererer nogen billeder til visse opgaver, herunder latterlige afbildninger af Googles egne medstiftere, Larry Page og Sergey Brin.
Det er også blevet rapporteret, at AI'en blankt afviser visse tekst- og billedbeskeder, der henviser til mennesker.
Det skal retfærdigvis siges, at nogle af disse "tests" giver lignende resultater på tværs af andre billedgeneratorer. Alligevel føles det, som om Google eksplicit har programmeret Gemini til at levere etnisk og kønsmæssigt mangfoldige resultater på bekostning af al fornuft og rationalitet.
Geminis adfærd hænger også sammen med den igangværende debat om "woke AI".
Nogle højt profilerede personer, herunder Elon Musk, har kritiseret AI's tendens til at afspejle en "woke mind virus" og antydet, at bestræbelserne på at give AI et politisk korrekt eller alt for inkluderende indhold kan føre til forvrængninger af virkeligheden og historiske kendsgerninger.
Kritikere hævder, at AI's bestræbelser på at være inkluderende ikke bør ske på bekostning af faktuel nøjagtighed, især i historisk repræsentation.
Dette var et vigtigt markedsføringstema, da Musks xAI udgav Grokog betegner den som "anti-vågen".
Eksperimenter har vist Google og OpenAI's model udviser venstreorienteret bias, mens open source-modeller kan ligge længere til højre på den politiske akse.
Nogle vil føle, at denne adfærd for det meste er godartet, mens andre i bund og grund er skadelig.
Sammen med ChatGPT's skøre hallucinatoriske episode i denne ugeDet har ikke været den mest stabile periode for AI.
