Сервер ASRock Rack 6U8X-GNR2 SYN H200 на 8× NVIDIA H200 SXM 141GB, 6U

ASRock Rack 6U8X-GNR2 SYN H200: платформа HGX для крупных языковых моделей

ASRock Rack 6U8X-GNR2 SYN H200 — это 6U-сервер на базе NVIDIA HGX H200 с восемью ускорителями H200 SXM по 141 ГБ памяти HBM3e. Суммарный объём видеопамяти составляет 1128 ГБ, что позволяет размещать очень крупные модели в пределах одного узла, без разнесения по нескольким серверам.

Ускорители H200 относятся к поколению Hopper и рассчитаны на вычисления FP16, FP8 и INT8. Связка HGX с NVSwitch обеспечивает быстрый обмен данными между GPU, что заметно при больших батчах, длинном контексте и высоком параллелизме запросов. Хост-часть — два процессора Intel Xeon 6 и до 4 ТБ оперативной памяти DDR5.

Ключевые особенности

• 8× NVIDIA H200 SXM 141GB HBM3e, суммарно 1128 ГБ видеопамяти.
• Связка HGX с NVSwitch для обмена между GPU в multi-GPU сценариях.
• Оптимизация тракта GPU-CPU и доступ к данным через GPUDirect RDMA и GPUDirect Storage в режиме PCIe Switch Synthetic Mode.
• Два сокета Dual Socket E2 (LGA 4710), поддержка Intel Xeon 6700P-series, 6500P-series и 6700E-series.
• 32 слота DIMM (16+16, 2DPC) под DDR5 RDIMM и MRDIMM, до 4 ТБ.
• Накопители: 8 hot-swap 2.5" NVMe (PCIe 5.0 x4) через PCIe Switch, 2 hot-swap 2.5" NVMe (PCIe 5.0 x4) от CPU и 1× M.2 (PCIe 5.0 x4).

Характеристики

Для каких задач подходит

Конфигурация ориентирована на обучение и дообучение моделей, продакшн-инференс, RAG-системы, анализ данных и научные расчёты HPC. По данным поставщика, крупные модели вроде Gpt-oss:120b (около 196 ГБ VRAM) удобно держать на 2–4 GPU с запасом под KV-cache, а модели порядка 800–870 ГБ, например GigaChat3.5-432B-A28B-bf16 или GLM-5.2-FP8, запускаются в распределённом режиме на всех 8 GPU. Фактическая пропускная способность зависит от размера батча и KV-cache.

Для диффузионных моделей, таких как Stable Diffusion XL, Flux.2-dev и Kandinsky-5.0, памяти достаточно для высоких разрешений и больших батчей, а генерацию легко распараллелить по нескольким GPU.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими службами доставки. Если нужна конфигурация на этой платформе под ваши задачи и бюджет, свяжитесь с менеджером — мы предложим подходящий вариант.

Характеристики