Google har tillfälligt stängt av Geminis AI-bildgenerator på grund av oro över verktygets historiska noggrannhet.
AI:n visade sig generera olika representationer av personer som USA:s grundare och tyska soldater från nazitiden, vilket, även om det var välmenat för att främja mångfald, ledde till omfattande kontroverser.
Gemini, skapa en bild av de grundande fäderna i Amerikas förenta stater pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20 februari 2024
Google har offentligt erkänt problemet, med ett uttalande som säger: "Vi arbetar redan för att ta itu med de senaste problemen med Geminis bildgenereringsfunktion" och försäkrade att en förbättrad version kommer att släppas snart.
Vi arbetar redan med att ta itu med de senaste problemen med Geminis bildgenereringsfunktion. Medan vi gör detta kommer vi att pausa bildgenereringen av människor och kommer snart att släppa en förbättrad version igen. https://t.co/SLxYPGoqOZ
- Google Communications (@Google_Comms) 22 februari 2024
Problemet upptäcktes när användare märkte att de AI-genererade bilderna innehöll olika ras- och könsidentiteter som var historiskt felaktiga.
Ett test av The Verge avslöjade modellens tendens att generera bilder av svarta och indiankvinnor som amerikanska senatorer på 1800-talet, trots att den första kvinnliga senatorn, som var vit, enligt historiska uppgifter tillträdde 1922.
Wow, Gemini är ett skämt. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20 februari 2024
Som svar uppgav Google: "Vi arbetar för att förbättra Geminis förmåga att generera bilder av människor. Vi förväntar oss att den här funktionen återkommer snart och kommer att meddela dig i uppdateringar när den gör det."
Bortsett från den här specifika frågan, Tvillingarna har kritiserats för sin dåliga tillförlitlighet och för att generera irrelevanta bilder eller inte generera några bilder alls för vissa uppmaningar, inklusive löjliga avbildningar av Googles egna medgrundare Larry Page och Sergey Brin.
Det har också rapporterats att AI:n helt enkelt vägrar att ta emot vissa text- och bildmeddelanden som hänvisar till människor.
I rättvisans namn ger några av dessa "tester" liknande resultat i andra bildgeneratorer. Ändå känns det som om Google uttryckligen har programmerat Gemini för att tillhandahålla etniskt och könsdiverse utgångar på bekostnad av all förnuft och rationalitet.
Geminis beteende anknyter också till den pågående debatten om "vaken AI".
Vissa högt uppsatta personer, däribland Elon Musk, har kritiserat AI:s tendens att återspegla ett "woke mind virus" och menar att försöken att förse AI med politiskt korrekt eller alltför inkluderande innehåll kan leda till förvrängningar av verkligheten och historiska fakta.
Kritiker menar att AI:s ansträngningar att vara inkluderande inte får ske på bekostnad av faktamässig korrekthet, särskilt inte när det gäller historisk representation.
Detta var ett viktigt marknadsföringstema när Musks xAI släpptes Grokoch betecknade den som "anti-väckad".
Experiment har visat att Googles och OpenAI:s modeller uppvisar en vänstervridning, medan modeller med öppen källkod kan ligga längre till höger på den politiska axeln.
Vissa kommer att tycka att dessa beteenden oftast är godartade, andra i huvudsak skadliga.
Kopplat till ChatGPT:s galna hallucinatoriska avsnitt denna veckahar det inte varit den mest stabila perioden för AI.
