NVIDIA лідирує в MLPerf Training і Endpoints із дебютом Vera Rubin
NVIDIA показала найкращі результати в усіх тестах MLPerf Training v6.1 і дебютувала в MLPerf Endpoints із платформою Vera Rubin. У тесті Kimi K3 система NVL72 продемонструвала понад десятикратну перевагу за продуктивністю на ват над GB300 NVL72.
Image: blogs.nvidia.com · Author: Shruti Koparkar · source articleEditorial excerpt for news reporting
NVIDIA заявила про лідерство платформи Vera Rubin у тестах MLPerf Training, post-training та агентного інференсу. Результати оприлюднили сьогодні.
У MLPerf Training v6.1 NVIDIA стала єдиною компанією з результатами в кожному тесті, що охоплював великі мовні моделі, генерацію зображень, рекомендаційні системи та посттренування з підкріпленням. Vera Rubin NVL72 показала до удвічі вищу продуктивність на GPU, ніж система NVIDIA GB300 NVL72.
Масштабування до 1024 GPU
У тесті DeepSeek-V3 система Vera Rubin NVL72 масштабувалася від 256 до 1024 GPU з ефективністю близько 97%: збільшення кількості GPU вчетверо скоротило час тренування з 16 хвилин приблизно до чотирьох.
NVIDIA також провела тест на 10 240 GPU у системах GB300 — це найбільший масштаб у цьому раунді. Microsoft Azure використала такий самий масштаб із системами на 10 240 GPU GB200.
Для об’єднання GPU NVIDIA застосовує внутрішню мережу NVLink, а для зв’язку між системами — Quantum-X800 InfiniBand і Spectrum-X Ethernet. Компанія пов’язує результати з оптимізованим програмним стеком CUDA.
Перевага в агентному інференсі
MLPerf Endpoints перевіряє роботу систем на агентних сценаріях програмування та корпоративних процесах, зокрема чи виконують агенти завдання коректно. Vera Rubin очолила всі агентні тести NVIDIA.
У попередньому результаті для моделі Kimi K3 система Vera Rubin NVL72 забезпечила понад удесятеро вищу продуктивність на ват, ніж GB300 NVL72 за однакової швидкості відповіді.
У MLPerf Training подали результати 20 організацій, серед яких Azure, Google Cloud, Microsoft Azure, Oracle, Dell Technologies, HPE, Supermicro та Університет Флориди. NVIDIA також послалася на незалежні тести SemiAnalysis AgentX і Artificial Analysis AgentPerf, де платформа показала високі результати.
Що ми знаємо
- Vera Rubin показала найкращі результати NVIDIA в усіх тестах MLPerf Training v6.1.
- У тесті DeepSeek-V3 масштабування з 256 до 1024 GPU мало ефективність близько 97%.
- У попередньому тесті Kimi K3 Vera Rubin NVL72 перевищила GB300 NVL72 більш ніж у 10 разів за продуктивністю на ват.
- NVIDIA та Microsoft Azure провели тести на масштабі 10 240 GPU.
Довіра: Первинне джерело
- У матеріалі є посилання на первинне повідомлення. Це підтверджує позицію його автора, але не гарантує правдивість усіх заяв.
- Джерела: NVIDIA Newsroom.
СПІЛЬНОТА
Обговорення
Увійдіть, щоб долучитися до обговорення.
Завантажуємо коментарі…