Добро пожаловать в подборку новостей об искусственном интеллекте для разумных, сознательных читателей этой недели. Вы знаете, кто вы.
На этой неделе искусственный интеллект вызвал споры о том, насколько он умен или безопасен.
Агенты искусственного интеллекта обучаются, играя в компьютерные игры.
А DeepMind хочет научить вас пинать мяч.
Давайте разберемся.
Мечтают ли искусственные интеллекты об электрических овцах?
Можем ли мы ожидать, что ИИ станет самосознательным или по-настоящему сознательным? Что вообще означает слово "сознательный" в контексте ИИ?
Во время обучения Клод 3 Опус сделал кое-что действительно интересное. Его реакция на инженера была Возрожденные дебаты о разумности и сознании ИИ. Мы вступаем на территорию "Бегущего по лезвию" раньше, чем некоторые думали.
Разве "я думаю, следовательно, я есть" применимо только к людям?
Эти дискуссии на тему X очень увлекательны.
Забавно, что оптимисты ИИ рассуждают так: "ИИ обучается, имитируя человеческие данные, поэтому он будет похож на нас, а значит, будет дружелюбным!", а не так: "Наша модель безопасности сделала несущее предположение, что будущие ИИ будут обучены исключительно имитировать человеческие данные...". https://t.co/wJ6PRjt8R1
- Элиэзер Юдковский ⏹️ (@ESYudkowsky) 15 марта 2024 года
Стремление Inflection AI к созданию "персонального ИИ" может закончиться. Генеральный директор компании Мустафа Сулейман и другие ключевые сотрудники спрыгнул с корабля, чтобы присоединиться к команде Microsoft Copilot. Что это значит для Inflection AI и других небольших игроков, финансируемых за счет инвестиций Больших Технологий?
ИИ играет в игры
Если 2023 год был годом LLM, то 2024-й станет годом ИИ-агентов. DeepMind продемонстрировала SIMAуниверсальный ИИ-агент для работы с 3D-окружением. SIMA был обучен с помощью компьютерных игр, и примеры того, что SIMA может делать, впечатляют.
Решит ли искусственный интеллект спор о номенклатуре футбольных матчей? Вряд ли. Но он может помочь игрокам забивать больше голов. DeepMind сотрудничает с футбольным клубом "Ливерпуль чтобы оптимизировать действия игроков клуба при выполнении угловых.
Однако пройдет еще немало времени, прежде чем роботы заменят людей на поле.
Рискованный бизнес
Спасет ли ИИ мир или погубит его? Это зависит от того, кого вы спросите. Эксперты и технологические лидеры не могут прийти к единому мнению о том, насколько умным является искусственный интеллектКак скоро у нас появится AGI или насколько это рискованно.
Ведущие западные и китайские ученые в области ИИ встретились в Пекине, чтобы обсудить международные усилия по обеспечению безопасного развития ИИ. Они договорились о нескольких Красные линии" в развитии ИИ которые, по их мнению, представляют собой экзистенциальную угрозу для человечества.
Если эти "красные линии" действительно необходимы, разве мы не должны были установить их еще несколько месяцев назад? Неужели кто-то верит, что американское или китайское правительство обратит на них внимание?
Закон ЕС об искусственном интеллекте был принят Европейским парламентом с большим отрывом и, скорее всего, вступит в силу в мае. Интересен список ограниченийПри этом некоторые из запрещенных приложений ИИ вряд ли когда-нибудь попадут в аналогичный список в Китае.
OpenAI, Meta и Microsoft будет особенно сложно удовлетворить требования к прозрачности данных об обучении, не открывая себя для еще большего количества исков об авторских правах.
На другом берегу пруда ФТК допрашивает Reddit из-за сделки по лицензированию пользовательских данных компании Google. Reddit готовится к IPO, но чувствует на себе давление как со стороны регуляторов, так и со стороны Redditors, которые не слишком рады тому, что их контент продается для обучения искусственного интеллекта.
Apple играет в догонялки с искусственным интеллектом
Компания Apple не прокладывает тропы искусственного интеллекта, но за последние несколько месяцев она скупила несколько стартапов в области ИИ. В последнее время приобретение канадского стартапа в области искусственного интеллекта может дать некоторое представление о том, как компания продвигает генеративный ИИ.
Когда Apple выпускает впечатляющие технологии искусственного интеллекта, она держит эту новость в секрете, пока она не становится частью одного из ее продуктов. Инженеры Apple без лишнего шума опубликовали документ, в котором рассказывается о MM1, Первое семейство мультимодальных LLM от Apple.
MM1 действительно хорошо справляется с визуальными вопросами. Особенно впечатляет его способность отвечать на запросы и рассуждать на основе нескольких изображений. Научится ли Siri видеть в ближайшее время?
Грок открывает
Грок только что прошел проверку на вменяемость pic.twitter.com/HYN3KTkRyX
- Джим Фан (@DrJimFan) 7 декабря 2023 года
Элон Маск критиковал отказ OpenAI от открытого исходного кода своих моделей. Он объявил, что xAI откроет открытый исходный код своего LLMGrok-1, и незамедлительно выпустили код и весовые коэффициенты модели.
Тот факт, что Grok-1 имеет открытый исходный код (лицензия Apache 2.0), означает, что компании могут использовать его в коммерческих целях, а не платить за альтернативы вроде GPT-4. Однако для обучения и запуска Grok вам потребуется серьезное оборудование.
Хорошая новость заключается в том, что в ближайшее время можно найти несколько подержанных NVIDIA H100 по дешевке.
Новые технологии NVIDIA
NVIDIA представила новые чипы, инструменты и Omniverse на своем мероприятии GTC на этой неделе.
Одним из главных анонсов стала новая вычислительная платформа Blackwell GPU от NVIDIA. Она обеспечивает значительный прирост скорости обучения и вычислений по сравнению даже с самой передовой платформой Grace Hopper.
Уже есть длинный список компаний, занимающихся разработкой ИИ, которые подписались на покупку передового оборудования.
Исследователи из Женевского университета опубликовали работу, в которой показали, как они соединил две модели ИИ, позволив им общаться друг с другом.
Когда вы изучаете новую задачу, вы обычно можете объяснить ее достаточно хорошо, чтобы другой человек мог использовать эти инструкции для самостоятельного выполнения задания. Новое исследование показывает, как заставить модель искусственного интеллекта делать то же самое.
Скоро мы сможем давать инструкции роботу, а затем отправлять его объяснять их целой команде роботов, чтобы они выполнили работу.
Другие новости...
- Вот некоторые другие заслуживающие внимания истории об искусственном интеллекте, которыми мы наслаждались на этой неделе:
- Компания Sakana AI разработала метод, позволяющий объединить лучшие компоненты различных моделей ИИ в более совершенную модель.
- Apple ведет переговоры об использовании Google Gemini для питания iPhone Функции искусственного интеллекта.
- Google использует ИИ для прогнозирования наводнений на реках в 80 странах мира за 7 дней.
- Мы могли видеть GPT-5 с возможностью использования агентов искусственного интеллекта Запуск в середине 2024 года.
- Релизы стабильного искусственного интеллекта Стабильное видео 3D который генерирует трехмерные сетчатые модели из отдельных изображений.
- DARPA работает над проектом SemaFor. Программа для борьбы с глубокими подделками ИИ.
Вот и все.
Как вы думаете, мы видим проблески сознания в Клоде 3 или взаимодействие с инженером имеет более простое объяснение? Если модель ИИ достигнет AGI и прочтет растущий список ограничений на развитие ИИ, она, вероятно, будет достаточно умна, чтобы заткнуться по этому поводу.
Когда мы оглянемся назад через несколько лет, будем ли мы смеяться над тем, как все были напуганы рисками ИИ, или сокрушаться, что мы не сделали больше для безопасности ИИ, когда могли?
Дайте нам знать, что вы думаете, и, пожалуйста, продолжайте присылать нам ссылки на новости AI, которые мы могли пропустить. Мы не можем получить достаточно материала.
