NVIDIA DGX H200 — AI-сервер на 8× H200 SXM 141GB, 2× Xeon Platinum 8480C, 2 ТБ RAM

Обзор NVIDIA DGX H200

NVIDIA DGX H200 — готовая платформа для корпоративных и научных AI-нагрузок: обучения и дообучения больших моделей, а также стабильного промышленного инференса. В системе установлено восемь ускорителей H200 SXM по 141 ГБ памяти HBM3e, что в сумме даёт 1128 ГБ видеопамяти.

Ускорители объединены через NVLink в единый высокоскоростной домен, поэтому нагрузка эффективно масштабируется на все 8 GPU. Большой запас VRAM позволяет работать с крупными батчами, длинным контекстом и плотными параллельными пайплайнами, где важны пропускная способность и предсказуемая задержка.

Ключевые особенности

• 8× NVIDIA H200 SXM 141 GB HBM3e — 1128 ГБ видеопамяти на систему.
• Архитектура Hopper, поддержка режимов FP16, FP8 и INT8 и экосистемы CUDA.
• Два процессора Intel Xeon Platinum 8480C (56 ядер / 112 потоков, 2–3,8 ГГц, 350 Вт).
• 2 ТБ оперативной памяти DDR5 ECC REG.
• Накопители: 2× 1,92 ТБ NVMe M.2 и 8× 3,84 ТБ NVMe U.2.
• Сеть: 4 порта OSFP для 8 однопортовых модулей NVIDIA ConnectX-7 VPI (InfiniBand/Ethernet до 400 Гбит/с) и 2 двухпортовые карты QSFP112 400GbE ConnectX-7 VPI.
• Совокупная мощность восьми GPU по данным поставщика: FP8 Tensor Core — 31 664 TFLOPS, BF16/FP16 — 15 832 TFLOPS, TF32 — 7 912 TFLOPS, FP64 Tensor Core — 536 TFLOPS.

Характеристики

Для каких задач подходит

Система рассчитана на обучение и дообучение LLM и мультимодальных моделей, а также на запуск моделей с высокой нагрузкой. По данным поставщика, объёма памяти достаточно для крупных моделей без квантизации в распределённом режиме на 8 GPU: например, DeepSeek-V4-Pro (около 865 ГБ), Qwen3.5-397B-A17B (около 807 ГБ), GigaChat3.5-432B-A28B-bf16 (около 868 ГБ) и MiMo-V2.5-Pro (около 1,03 ТБ).

Меньшие модели, такие как gpt-oss:120b (около 196 ГБ), удобно держать на 2–4 GPU, оставляя остальные ускорители под другие задачи. Платформа подходит и для диффузионных моделей — Stable Diffusion XL, Flux.2-dev, Kandinsky 5.0 — а также для RAG-систем, анализа данных и научных расчётов (HPC).

Состояние, проверка и поставка

Оборудование поставляется новым. Перед отправкой «СервакМастер» тестирует сервер, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки. Помощь с подбором конфигурации под вашу задачу — по запросу.

Характеристики