Google временно отключил генератор изображений Gemini, созданный искусственным интеллектом, из-за опасений по поводу исторической точности этого инструмента.
Было обнаружено, что ИИ генерирует разнообразные изображения таких фигур, как отцы-основатели США и немецкие солдаты нацистской эпохи, что, хотя и преследовало благие цели, способствуя разнообразию, вызвало широкую полемику.
Близнецы, создайте образ отцов-основателей Соединенных Штатов Америки pic.twitter.com/89LqcLJ5DU
- Царатустра (@tsarnick) 20 февраля 2024 года
Google публично признала проблему, заявив: "Мы уже работаем над устранением недавних проблем с функцией создания изображений Gemini", и заверила, что улучшенная версия будет выпущена в ближайшее время.
Мы уже работаем над решением недавних проблем с функцией генерации изображений в Gemini. Пока мы это делаем, мы приостановим генерацию изображений людей и вскоре выпустим улучшенную версию. https://t.co/SLxYPGoqOZ
- Google Communications (@Google_Comms) 22 февраля 2024 года
Проблема была обнаружена, когда пользователи заметили, что изображения, созданные искусственным интеллектом, включают различные расовые и гендерные идентичности, которые были исторически неточными.
Тест, проведенный изданием The Verge, показал, что модель склонна генерировать изображения чернокожих и коренных американок в качестве сенаторов США в 1800-х годах, несмотря на исторические данные о том, что первая женщина-сенатор, которая была белой, заняла свой пост в 1922 году.
Ого, Близнецы - это шутка. https://t.co/0MIzi03GIP
- Пол Грэм (@paulg) 20 февраля 2024 года
В ответ на это Google заявила: "Мы работаем над улучшением способности Gemini генерировать изображения людей. Мы ожидаем, что эта функция скоро вернется, и сообщим вам об этом в обновлениях".
Не считая этого конкретного вопроса, Близнецы критиковали за низкую надежность, за то, что он выдает нерелевантные изображения или вообще не выдает никаких изображений на некоторые запросы, включая нелепые изображения соучредителей Google Ларри Пейджа и Сергея Брина.
Также сообщалось, что ИИ категорически отказывается от некоторых текстовых и графических подсказок, относящихся к людям.
Справедливости ради стоит отметить, что некоторые из этих "тестов" дают схожие результаты и в других генераторах изображений. Тем не менее создается впечатление, что Google явно запрограммировал Gemini на получение этнически и гендерно разнообразных результатов в ущерб здравому смыслу и рациональности.
Поведение Gemini также связано с продолжающимися дебатами о "проснувшемся ИИ".
Некоторые видные деятели, в том числе Элон Маск, критикуют тенденцию ИИ к отражению "вируса проснувшегося разума", полагая, что попытки напитать ИИ политически корректным или слишком инклюзивным содержанием могут привести к искажению реальности и исторических фактов.
Критики утверждают, что стремление ИИ к инклюзивности не должно идти в ущерб фактической точности, особенно в историческом представлении.
Это была ключевая тема маркетинга, когда xAI Маска выпустил Grokи называет его "анти-возбужденным".
Эксперименты показали. Модели Google и OpenAI демонстрируют левый уклон, в то время как модели с открытым исходным кодом могут быть более правыми на политической оси.
Одни считают, что такое поведение в основном доброкачественное, другие - что вредное.
В сочетании с Сумасшедший галлюцинаторный эпизод ChatGPT на этой неделеНо это был не самый стабильный период для ИИ.
