Сервер DELL PowerEdge XE9680 (8× NVIDIA H200 SXM 141GB, 6U)

Обзор: 8-GPU платформа для тяжёлых ML/DL-нагрузок

DELL PowerEdge XE9680 в этой конфигурации — GPU-сервер высотой 6U на базе NVIDIA HGX с восемью ускорителями H200 (архитектура Hopper, форм-фактор SXM5, по 141 ГБ памяти HBM3e каждый). Платформа создана для задач, где одной-двух видеокарт заведомо не хватает: обучение и дообучение больших моделей, промышленный инференс, RAG-системы и научные расчёты.

Суммарно доступно 1128 ГБ видеопамяти (около 1,1 ТБ). Это даёт запас под длинный контекст, большие батчи и хранение KV-cache при росте числа одновременных запросов, а также упрощает распределённый запуск моделей без агрессивной квантизации.

Ключевые особенности

• 8× NVIDIA HGX H200 141GB SXM5 (700 Вт), полностью связанные через NVLink — важно для стабильного multi-GPU инференса и обучения с интенсивным обменом между ускорителями.
• Поддержка вычислений FP16, FP8 и INT8; HBM3e обеспечивает высокую пропускную способность памяти.
• Два процессора Intel Xeon Scalable 4-го или 5-го поколения (на 5-м — до 64 ядер и 350 Вт).
• До 4 ТБ оперативной памяти DDR5 RDIMM в 32 слотах.
• Гибкая дисковая подсистема: до 8× 2,5" NVMe/SAS/SATA либо до 16× E3.S NVMe, в обоих вариантах до 122,88 ТБ.
• Совокупная расчётная мощность восьми H200: FP8 Tensor Core — 31 664 TFLOPS, BF16/FP16 — 15 832 TFLOPS, TF32 — 7 912 TFLOPS, FP64 Tensor Core — 536 TFLOPS.

Характеристики

Для каких задач подходит

• Запуск крупных языковых моделей на 8 GPU: по данным поставщика, в память помещаются модели с требованием примерно до 1 ТБ VRAM, включая варианты вроде DeepSeek-V4-Pro, GLM-5.2-FP8 и Mistral-Large-3.
• Небольшие модели вроде gpt-oss:120b (около 196 ГБ) занимают 1–2 GPU, остальные ускорители можно отдать под параллельные инстансы и высокую конкурентность.
• Генерация изображений и видео с диффузионными моделями (Stable Diffusion XL, Flux.2-dev, Kandinsky) с распараллеливанием очереди по GPU.
• Обучение и дообучение моделей, RAG-системы, анализ данных и HPC-расчёты.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на конфигурацию действует гарантия 1 год с заменой компонентов. Доставка выполняется по России службой СДЭК и другими ведущими службами. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — подберём подходящий вариант.

Характеристики