NVIDIA GB200 NVL72: стоечная AI-платформа с 72 GPU Blackwell и жидкостным охлаждением

NVIDIA GB200 NVL72: AI-система масштаба стойки

NVIDIA GB200 NVL72 — это жидкостно-охлаждаемая стоечная платформа в форм-факторе 48U, в которой 72 GPU Blackwell объединены в единый домен NVLink. Для программного стека такая система выглядит как один гигантский ускоритель, а не как набор отдельных серверов, поэтому она рассчитана на модели самого высокого класса, вплоть до триллионных параметров.

Основная область применения — корпоративные и исследовательские AI-задачи, где критичны объём памяти и скорость обмена между ускорителями. Для классического видеонаблюдения и офисных нагрузок эта система не предназначена.

Ключевые особенности

• 72 GPU NVIDIA GB200 (Blackwell) и процессоры NVIDIA GB200 (Grace) в одной стойке.
• Суммарно 13 392 ГБ видеопамяти HBM3e (около 13,4 ТБ) с пропускной способностью до 576 ТБ/с.
• NVLink Switch System: до 130 ТБ/с обмена между GPU внутри единого домена.
• 17 856 ГБ оперативной памяти LPDDR5x.
• Поддержка точностей FP4, FP6, FP8, FP16/BF16, TF32 и INT8: от плотного инференса до обучения.
• Совокупная производительность системы: 1440 PFLOPS в FP4, 720 PFLOPS в FP8 и FP6, 360 PFLOPS в FP16/BF16.
• Объём памяти позволяет разворачивать полноразмерные LLM и MoE-модели без агрессивной квантизации, с запасом под длинный контекст, KV-cache и параллельные запросы.

Характеристики

Для каких задач подходит

• Обучение и дообучение крупных языковых моделей, включая MoE.
• Высоконагруженный инференс с большим числом одновременных пользователей и длинным контекстом.
• RAG-системы и агентные сценарии на моделях большого размера.
• Анализ данных и научные расчёты (HPC).
• Генерация изображений и видео диффузионными моделями в массовом параллельном режиме.

По оценкам для полноразмерных версий, платформа с запасом покрывает такие модели, как DeepSeek-V4-Pro (около 865 ГБ), GLM-5.2 (около 1,51 ТБ) и Kimi-K3 (около 1,56 ТБ), а лёгкие модели можно запускать множеством параллельных инстансов.

Состояние, проверка и поставка

Система поставляется в новом состоянии. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России через СДЭК и другие ведущие службы доставки. Для платформы такого класса мы также помогаем с подбором конфигурации и уточнением требований к площадке, питанию и охлаждению.

Характеристики