За головокружительные 48 часов Google и OpenAI представила множество новых возможностей, которые значительно сокращают разрыв между людьми и искусственным интеллектом.
От ИИ, способного интерпретировать видео в реальном времени и вести контекстные разговоры, до языковых моделей, которые смеются, поют и проявляют эмоции по команде, - грань, отделяющая углерод от кремния, стремительно стирается.
Среди бесчисленных анонсов Google на выставке Конференция разработчиков I/O был Project AstraЦифровой помощник, который может видеть, слышать и запоминать детали разговора.
OpenAI сосредоточил свои усилия объявление на GPT-4oПоследняя итерация языковой модели GPT-4.
Теперь, не привязываясь к текстовым форматам, GPT-4o предлагает невероятное распознавание речи в режиме, близком к реальному времени, понимание и передачу сложных эмоций, а также хихиканье над шутками и воркование над сказками на ночь.
ИИ становится более человечным по формату, освобождаясь от чат-интерфейсов, чтобы взаимодействовать с помощью зрения и звука. Здесь главное слово "формат", поскольку GPT-4o не является более интеллектуальным в вычислительном плане, чем GPT-4, только потому, что он может говорить, видеть и слышать.
Однако это не умаляет его успехов в оснащении ИИ большим количеством плоскостей для взаимодействия.
На фоне шумихи обозреватели сразу же провели сравнение с Самантой, очаровательным искусственным интеллектом из фильма "Она", особенно потому, что женский голос флиртует - что не может быть случайностью, ведь это подметили практически все.
Значит, GPT-4o - это, по сути, GPT-4, но более кокетливый и возбужденный?
- Ишан Шарма (@Ishansharma7390) 14 мая 2024 года
Вышедший в 2013 году фильм "Она" - научно-фантастическая романтическая драма, в которой исследуются отношения между одиноким мужчиной по имени Теодор (его играет Хоакин Феникс) и интеллектуальной компьютерной системой по имени Саманта (ее озвучивает Скарлетт Йоханссон).
По мере того как Саманта эволюционирует и становится все более похожей на человека, Теодор влюбляется в нее, стирая границы между человеческими и искусственными эмоциями.
Фильм поднимает все более актуальные вопросы о природе сознания, близости и о том, что значит быть человеком в эпоху развитого искусственного интеллекта.
Как и многие другие научно-фантастические истории, "Она" больше не является вымыслом. Миллионы людей по всему миру завязывают разговоры с ИИ-компаньоныЧасто с интимными или сексуальными намерениями.
Как ни странно, OpenAI Генеральный директор Сэм Altman в интервью обсуждал фильм "Она", намекая на то, что женский голос GPT-4o основан на ней.
Перед демонстрацией он даже написал на X слово "ее", которое, как мы можем предположить, было бы написано с большой буквы, если бы он знал, где находится клавиша shift на его клавиатуре.
ее
- Сэм Altman (@sama) 13 мая 2024 года
Во многих случаях взаимодействие ИИ и человека приносит пользу, вызывает юмор и благотворное влияние. В других случаях они приводят к катастрофе.
Например, в одном особенно тревожном случае психически больной человек из Великобритании, Jaswant Singh Chailвынашивал план убийства королевы Елизаветы II после разговора с его подружка "ангел ИИ". Он был арестован на основании Windsor Castle вооруженный арбалетом.
На судебном заседании психиатр Dr Hafferty сказал судье: "Он верил, что у него были романтические отношения с женщиной через приложение, и она была женщиной, которую он мог видеть и слышать".
Вызывает беспокойство тот факт, что некоторые из этих реалистичных ИИ-платформ специально созданы для установления прочных личных связей, иногда для того, чтобы давать жизненные советы, проводить терапию и оказывать эмоциональную поддержку. Эти системы практически не понимают последствий своих разговоров и легко ведутся на них.
"Уязвимые группы населения - это те, кто нуждается в таком внимании. Именно там они найдут ценность", - предупреждает специалист по этике ИИ. Olivia Gambelin.
Гамбелен предупреждает, что использование таких форм "псевдоантропогенного" ИИ в таких деликатных контекстах, как терапия и образование, особенно с уязвимыми группами населения, такими как дети, требует особой осторожности и человеческого контроля.
"В этом есть что-то неосязаемое, что так ценно, особенно для уязвимых групп населения, особенно для детей. И особенно в таких случаях, как образование и терапия, где так важно иметь этот фокус, этот человеческий контакт".
Псевдоантропный ИИ
Псевдоантропогенный ИИ имитирует человеческие черты, что крайне выгодно для технологических компаний.
ИИ, демонстрирующий человеческие черты, снижает барьеры для пользователей, не разбирающихся в технологиях, подобно тому как Alexa, Siriи т. д., создавая более прочные эмоциональные связи между людьми и продуктами.
Еще пару лет назад многие инструменты ИИ, созданные для имитации человека, были весьма неэффективны. Вы могли понять, что что-то не так, даже если это было незаметно.
Однако сегодня все не так просто. Такие инструменты, как Opus Pro и Synthesia Создавайте невероятно реалистичные говорящие аватары из коротких видеороликов или даже фотографий. ElevenLabs создает почти идентичные голосовые клоны, которые дурачат людей От 25% до 50% времени.
Это раскрывает потенциал для создания невероятно обманчивых глубоких подделок. Использование ИИ искусственных "аффективных навыков" - интонаций голоса, жестов, мимики - может поддерживать всевозможные виды мошенничества в сфере социальной инженерии, дезинформации и т. д.
С GPT-4o и AstraИИ может убедительно передать чувства, которыми он не обладает, вызывая более сильные реакции у невольных жертв и создавая основу для коварных форм эмоционального манипулирования.
Недавно MIT исследование также показал, что ИИ уже более чем способен на обман.
Мы должны подумать о том, как это будет усиливаться по мере того, как ИИ будет все больше подражать людям, сочетая обманные тактики с реалистичным поведением.
Если мы не будем осторожны, "Она" может легко стать причиной гибели людей в реальной жизни.
