AMD kündigte an, dass sein MI325X-Grafikprozessor noch in diesem Jahr auf den Markt kommen wird und dass er die H200-Grafikprozessoren von NVIDIA in mehreren Punkten übertrifft.
NVIDIA ist der derzeitige Marktführer beim Verkauf von Chips für Rechenzentren und hält schätzungsweise über 70% des Marktanteils für KI-Chips, aber Intel und AMD machen mit ihren eigenen Angeboten Fortschritte.
Auf der Computex 2024 in Taiwan kündigte AMD-CEO Lisa Su an, dass die Instinct MI325X GPU noch in diesem Jahr auf den Markt kommen wird. AMD sagt, dass der Nachfolger des MI300 mehr Speicher und einen schnelleren Datendurchsatz haben wird.
AMD setzt seine Chips für Rechenzentren immer häufiger ein. Unternehmen wie Microsoft integrieren sie in ihre Azure-Cloud-Services, während Microsoft, Meta und Oracle die MI300-Plattform übernommen haben. Das Unternehmen peilt für das Jahr 2024 einen Umsatz von $4 Mrd. an.
Laut Su übertrifft der MI325X die beliebte H200-GPU von NVIDIA hinsichtlich Speicherkapazität, Bandbreite und Leistung deutlich.
Der MI325X bietet bis zu 288 GB HBM3e-Speicher und eine Bandbreite von 6 TBps. Das ist mehr als das Doppelte des Speichers von NVIDIAs H200 mit 30% schnellerem Datendurchsatz.
Er erreicht einen theoretischen Spitzendurchsatz von 2,6 Petaflops bei 8-Bit-Gleitkomma (FP8) und 1,3 Petaflops bei 16-Bit-Gleitkomma (FP16). Das sind 30% mehr als beim H200.
Ein einziger Server, der aus acht dieser Grafikprozessoren auf der Instinct MI325X-Plattform besteht, verfügt über genügend Speicher, um fortschrittliche KI-Modelle mit bis zu 1 Billion Parametern auszuführen, was doppelt so groß ist wie die von einem H200-Server unterstützte Größe.
Heute haben wir auf der Computex eine mehrjährige, erweiterte AMD Instinct-Beschleuniger-Roadmap vorgestellt, die in jeder Generation eine jährliche KI-Leistung und Speicherkapazität der Spitzenklasse bieten wird. pic.twitter.com/PQKyVAnAVW
- AMD (@AMD) 3. Juni 2024
Während NVIDIAs H200 ist das Flaggschiff unter den derzeit erhältlichen GPUs, aber Su hat nicht erwähnt, wie sich der MI325X im Vergleich zum Blackwell GPUs, die NVIDIA noch in diesem Jahr auf den Markt bringen wird.
Die Spitzenmodelle von Blackwell verfügen über bis zu 192 GB HBM3e-Speicher mit einer Bandbreite von 8 TB/s. Das ist zwar etwas weniger Speicher, aber mehr Bandbreite als AMDs Top-Angebot.
AMD kündigt an, die Entwicklung neuer Grafikprozessoren zu beschleunigen und jedes Jahr eine neue Familie von Grafikprozessoren auf den Markt zu bringen. Das ist die gleiche Kadenz die laut NVIDIA CEO Jensen Huang von NVIDIA angestrebt wird.
Im Jahr 2050 wird AMD den MI350 auf den Markt bringen, der in einem 3-nm-Prozess gefertigt wird und AMDs CDNA-4-Architektur nutzt.
Laut Su wird die CDNA-4-Architektur einen Generationssprung im Bereich der KI-Computertechnik darstellen, der eine 35-fache Steigerung der Inferenzleistung gegenüber der aktuellen CDNA-3-Architektur ermöglicht.
Die Übertragung all dieser Daten zwischen GPU-Clustern und Servern erfordert Hochgeschwindigkeitsnetzwerke. Su schloss ihre Rede mit den Worten, dass "die Zukunft der KI-Vernetzung offen sein muss".
Sie gab bekannt, dass AMD in der vergangenen Woche einem Konsortium von High-Computing-Unternehmen beigetreten ist, um einen Netzwerkstandard mit hoher Bandbreite und niedriger Latenz zu entwickeln, der Hunderte von KI-Beschleunigern miteinander verbinden soll.
NVIDIA wurde nicht zur Teilnahme an dem Projekt eingeladen und hat seinen eigenen proprietären Standard. Su sagte, dass der UALink-Standard eine "großartige Alternative zu proprietären Optionen" sein wird.
Die KI-GPU-Schlachtlinien sind sehr subtil gezogen worden, und NVIDIA muss den Druck von AMD und Intel zu spüren bekommen.
