{"id":2095,"date":"2023-06-27T20:52:15","date_gmt":"2023-06-27T20:52:15","guid":{"rendered":"https:\/\/dailyai.com\/?p=2095"},"modified":"2023-07-04T11:31:32","modified_gmt":"2023-07-04T11:31:32","slug":"nvidias-h100-chips-smash-ai-training-and-deployment-records-in-benchmark-test","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2023\/06\/nvidias-h100-chips-smash-ai-training-and-deployment-records-in-benchmark-test\/","title":{"rendered":"Nvidias H100-brikker knuser AI-treningsrekorder i referansetest"},"content":{"rendered":"

NVIDIAs nye H100-GPU-er har satt nye referanser for AI-treningsoppgaver, og har sl\u00e5tt flere rekorder i prosessen.\u00a0<\/b><\/p>\n

MLPerf ble grunnlagt av et konsortium av forskere, akademikere og andre spesialister som utviklet benchmarks for \u00e5 teste hvor raskt systemer kan distribuere og kj\u00f8re AI-modeller. MLPerf er i hovedsak en serie tester som er utformet for \u00e5 m\u00e5le hastigheten og effektiviteten til maskinvare, programvare og tjenester for maskinl\u00e6ring (ML).\u00a0<\/span><\/p>\n

Nvidia, verdensledende innen AI-maskinvare, testet en <\/span>klynge med 3 584 H100 GPU-er<\/span><\/a> for \u00e5 vise sin formidable fart.\u00a0<\/span><\/p>\n

Klyngen, som er utviklet av AI-oppstartsbedriften Inflection AI og administrert av CoreWeave, en skytjenesteleverand\u00f8r som spesialiserer seg p\u00e5 GPU-baserte arbeidsbelastninger, fullf\u00f8rte en treningsreferanse basert p\u00e5 GPT-3-modellen p\u00e5 mindre enn 11 minutter.\u00a0<\/span><\/p>\n

Med andre ord trente klyngen en GPT-3-ekvivalent modell med rundt 175 milliarder parametere p\u00e5 omtrent samme tid som det tar \u00e5 koke kaffe eller g\u00e5 tur med hunden. Vi vet ikke hvor lang tid det tok OpenAI \u00e5 trene opp GPT-3, men det var i hvert fall ikke 11 minutter.\u00a0<\/span><\/p>\n

H100-GPU-ene satte rekorder i \u00e5tte andre MLPerf-tester, og viste sin r\u00e5 kraft og allsidighet. Her er noen av resultatene:\u00a0<\/span><\/p>\n