Google ha temporaneamente disattivato il generatore di immagini AI di Gemini a causa di dubbi sull'accuratezza storica dello strumento.
Si è scoperto che l'IA generava rappresentazioni diverse di figure come i padri fondatori degli Stati Uniti e i soldati tedeschi dell'era nazista, il che, pur con le buone intenzioni di promuovere la diversità, ha scatenato un'ampia polemica.
Gemelli, creare un'immagine dei padri fondatori degli Stati Uniti d'America pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20 febbraio 2024
Google ha riconosciuto pubblicamente il problema, con una dichiarazione che recita: "Stiamo già lavorando per risolvere i recenti problemi con la funzione di generazione di immagini di Gemini" e ha assicurato che una versione migliorata sarà rilasciata a breve.
Stiamo già lavorando per risolvere i recenti problemi con la funzione di generazione delle immagini di Gemini. Nel frattempo, metteremo in pausa la generazione delle immagini delle persone e rilasceremo presto una versione migliorata. https://t.co/SLxYPGoqOZ
- Comunicazioni di Google (@Google_Comms) 22 febbraio 2024
Il problema è stato individuato quando gli utenti hanno notato che le immagini generate dall'intelligenza artificiale includevano diverse identità razziali e di genere che erano storicamente inaccurate.
Un test condotto da The Verge ha rivelato la tendenza del modello a generare immagini di donne nere e native americane come senatrici degli Stati Uniti nel 1800, nonostante i dati storici indichino che la prima donna senatrice, che era bianca, sia entrata in carica nel 1922.
Wow, i Gemelli sono uno scherzo. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20 febbraio 2024
In risposta, Google ha dichiarato: "Stiamo lavorando per migliorare la capacità di Gemini di generare immagini di persone. Ci aspettiamo che questa funzione ritorni presto e vi informeremo con gli aggiornamenti del rilascio quando ciò avverrà".
A parte questo problema specifico, Gemelli è stato criticato per la sua scarsa affidabilità, generando immagini irrilevanti o non generando alcuna immagine per alcune richieste, comprese ridicole rappresentazioni dei cofondatori di Google, Larry Page e Sergey Brin.
È stato anche riferito che l'intelligenza artificiale rifiuta categoricamente alcune richieste di testo e immagini che si riferiscono a persone.
Ad onor del vero, alcuni di questi "test" danno risultati simili in altri generatori di immagini. Tuttavia, sembra che Google abbia esplicitamente programmato Gemini per fornire risultati diversificati dal punto di vista etnico e di genere, a scapito della ragione e della razionalità.
Il comportamento di Gemini si ricollega anche al dibattito in corso sull'"IA sveglia".
Alcune figure di alto profilo, tra cui Elon Musk, hanno criticato la tendenza dell'IA a riflettere un "virus della mente sveglia", suggerendo che gli sforzi per impregnare l'IA di contenuti politicamente corretti o eccessivamente inclusivi possono portare a distorsioni della realtà e dei fatti storici.
I critici sostengono che gli sforzi dell'IA per essere inclusiva non dovrebbero andare a scapito dell'accuratezza dei fatti, specialmente nella rappresentazione storica.
Questo è stato un tema chiave del marketing quando La xAI di Musk ha rilasciato Grok, definendolo "anti-woke".
Gli esperimenti hanno rilevato I modelli di Google e OpenAI mostrano un orientamento di sinistra, mentre i modelli open-source possono essere più a destra sull'asse politico.
Alcuni ritengono che questi comportamenti siano per lo più benigni, altri essenzialmente dannosi.
Accoppiato con L'episodio allucinante di ChatGPT di questa settimanaNon è stato il periodo più stabile per l'IA.
