Google har midlertidig deaktivert Geminis AI-bildegenerator på grunn av bekymringer over verktøyets historiske nøyaktighet.
Det viste seg at den kunstige intelligensen genererte ulike representasjoner av figurer som USAs grunnlovsfedre og tyske soldater fra nazitiden, noe som, selv om det var godt ment for å fremme mangfold, utløste omfattende kontroverser.
Gemini, lag et bilde av USAs grunnlovsfedre pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20. februar 2024
Google har offentlig erkjent problemet, med en uttalelse som sier: "Vi jobber allerede med å løse nylige problemer med Geminis bildegenereringsfunksjon", og forsikret at en forbedret versjon vil bli utgitt snart.
Vi jobber allerede med å løse de siste problemene med Geminis bildegenereringsfunksjon. Mens vi gjør dette, kommer vi til å sette bildegenerering av personer på pause og vil snart lansere en forbedret versjon. https://t.co/SLxYPGoqOZ
- Google Communications (@Google_Comms) 22. februar 2024
Problemet ble oppdaget da brukerne la merke til at de AI-genererte bildene inneholdt ulike rase- og kjønnsidentiteter som var historisk unøyaktige.
En test utført av The Verge avslørte modellens tendens til å generere bilder av svarte og indianske kvinner som amerikanske senatorer på 1800-tallet, til tross for at den første kvinnelige senatoren, som var hvit, ble innsatt i 1922.
Jøss, Gemini er en vits. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20. februar 2024
Som svar uttalte Google: "Vi jobber med å forbedre Geminis evne til å generere bilder av mennesker. Vi forventer at denne funksjonen snart kommer tilbake, og vi vil varsle deg i oppdateringer når den gjør det."
Bortsett fra dette spesifikke problemet, Tvillingene har blitt kritisert for sin dårlige pålitelighet, og for å generere irrelevante bilder eller ikke generere noen bilder i det hele tatt for visse spørsmål, inkludert latterlige avbildninger av Googles egne medstiftere, Larry Page og Sergey Brin.
Det har også blitt rapportert at AI-en blankt nekter å ta imot visse tekst- og bildemeldinger som refererer til mennesker.
Noen av disse "testene" gir riktignok lignende resultater på tvers av andre bildegeneratorer. Likevel føles det som om Google eksplisitt har programmert Gemini til å levere etnisk og kjønnsmessig mangfoldige resultater på bekostning av all fornuft og rasjonalitet.
Geminis oppførsel er også knyttet til den pågående debatten om "våken AI".
Noen høyt profilerte personer, deriblant Elon Musk, har kritisert AIs tendens til å gjenspeile et "woke mind virus", og antyder at forsøk på å fylle AI med politisk korrekt eller altfor inkluderende innhold kan føre til forvrengninger av virkeligheten og historiske fakta.
Kritikerne mener at AIs innsats for å være inkluderende ikke bør gå på bekostning av faktakorrekthet, spesielt ikke når det gjelder historisk representasjon.
Dette var et viktig markedsføringstema da Musks xAI lanserte Grokog betegner den som "anti-vekket".
Eksperimenter har vist at Googles og OpenAIs modell er venstrevridd, mens åpen kildekode-modeller kan ligge lenger til høyre på den politiske aksen.
Noen vil mene at denne atferden for det meste er godartet, mens andre i bunn og grunn er skadelig.
Sammen med ChatGPTs vanvittige hallusinatoriske episode denne ukenhar det ikke vært den mest stabile perioden for AI.
