На своем мероприятии GTC NVIDIA анонсировала ряд новых аппаратных средств, вычислительных платформ и симуляторов, направленных на ускорение развития генеративного ИИ и робототехники.
Вчера основатель и генеральный директор NVIDIA Дженсен Хуанг (Jensen Huang) продемонстрировал новейшие продукты, которые компания предоставит разработчикам завтрашних ИИ-решений.
Хуанг сказал: "Ускоренные вычисления достигли переломного момента. Вычисления общего назначения исчерпали себя. Нам нужен другой способ выполнения вычислений, чтобы мы могли продолжать масштабироваться, чтобы мы могли продолжать снижать стоимость вычислений, чтобы мы могли продолжать потреблять все больше и больше вычислений, оставаясь при этом устойчивыми".
Чтобы обеспечить масштабное обновление инфраструктуры искусственного интеллекта, в котором нуждается мир, Хуанг представил следующие новые аппаратные и программные решения:
- Графический процессор и вычислительная платформа Blackwell
- Суперкомпьютер NVIDIA DGX SuperPOD
- Микросервисы NIM - новый способ создания программного обеспечения с искусственным интеллектом
- Omniverse - симулятор реального мира для обучения роботов
- Программное обеспечение Isaac Perceptor и проект GR00T - универсальная базовая модель для гуманоидных роботов и программного обеспечения для робототехники
Вот более подробный обзор этих захватывающих новинок.
Блэквелл
Хуанг сказал, что для мультимодального обучения все более крупных моделей ИИ индустрии нужны гораздо более крупные GPU. NVIDIA утверждает, что ее новый чип Blackwell является "самым большим чипом, который физически возможен" и содержит 104 миллиарда транзисторов.
Соединение двух из них в один GPU дает значительный прирост производительности. Blackwell обеспечивает 2,5-кратный прирост по сравнению с NVIDIA Бункер Производительность архитектуры в FP8 для обучения на одном чипе и 5x с FP4 для выводов.
Интерконнект NVLink, соединяющий эти GPU, в два раза быстрее своего предшественника и позволяет объединить 576 графических процессоров Blackwell.
Соединение двух GPU Blackwell и CPU Grace дает суперчип Grace Blackwell, который лежит в основе стоек NVIDIA GB200 NVL2. Они обеспечивают эксафлопные вычисления в одной стойке.
NVIDIA соединила несколько из них, чтобы создать новый суперкомпьютер для ИИ под названием NVIDIA DGX SuperPOD, который обеспечивает 11,5 эксафлопс супервычислений для ИИ с точностью FP4.
В пресс-релизе перечислены AWS, Google Cloud, Microsoft Azure и Oracle в качестве первых претендентов на новое вычислительное оборудование, которое, по словам NVIDIA, может "создавать и запускать генеративный ИИ в реальном времени на триллионных моделях больших языков при снижении стоимости и энергопотребления в 25 раз по сравнению с предшественниками".
Вот как выглядит прогресс NVIDIA в области вычислений за последние 8 лет.
NVIDIA NIMs
"Как мы будем создавать программное обеспечение в будущем? Маловероятно, что вы будете писать его с нуля или набирать целую кучу кода на Python, или что-то в этом роде", - сказал Хуанг. "Вполне вероятно, что вы соберете команду искусственных интеллектов".
По словам Хуанга, вместо того чтобы писать программное обеспечение, компании будут "собирать модели ИИ, давать им задания, приводить примеры рабочих продуктов, пересматривать планы и промежуточные результаты".
NVIDIA выпустила коллекцию готовых контейнеров, или микросервисов, под названием NIM (NVIDIA Inference Microservice).
NIMs - это маленькие коробочки с программным обеспечением ИИ, внутри которых находится предварительно обученная модель, API и другие программные компоненты. Компании смогут развернуть их подобно тому, как мы используем GPT или Zapier, вместо того чтобы создавать функциональность с нуля.
Вселенная
Воплощенный ИИ, или физический ИИ, - это то, над чем сейчас ведется активная работа. Обучение роботов в физическом мире дорого и неэффективно, и NVIDIA предлагает решение этой проблемы.
Omniverse - это движок для моделирования виртуального мира, который действует как виртуальный "тренажерный зал", где робот учится артикуляции и физике взаимодействия с реальным миром.
NVIDIA предоставляет разработчикам доступ к API для обучения роботов в Omniverse. Разработчики могут создать цифровой двойник физического пространства, например, склада, и оптимизировать автоматизированное оборудование и роботов перед их внедрением в физическое пространство.
Программное обеспечение Isaac и проект GR00T
Хуанг анонсировал новое программное обеспечение для поддержки разработчиков робототехники. Программное обеспечение Isaac Perceptor и библиотека Isaac Manipulator помогут роботам видеть, ориентироваться и манипулировать окружающей средой.
NVIDIA также представила проект GR00T (General Robotics 003) - базовую модель общего назначения для гуманоидных роботов. Эта модель вместе с программным обеспечением Isaac Perceptor будет работать на новом компьютере Jetson Thor, чтобы помочь обучить роботов в Omniverse и затем внедрить их в реальный мир.
В первый день GTC было сделано несколько важных анонсов новых технологий, которые, вероятно, приведут к дальнейшему росту цены акций NVIDIA. Будет интересно посмотреть, какие еще сюрпризы преподнесет нам Хуанг в ближайшие несколько дней.
Вы можете посмотреть выступление Хуанга здесь.
