GPU-сервер ASRock Rack 6U8X-EGS2 SYN H100 (8× H100 SXM 80GB, 640 ГБ HBM3)

GPU-сервер ASRock Rack 6U8X-EGS2 SYN H100 для обучения и инференса больших моделей

ASRock Rack 6U8X-EGS2 SYN H100 — восьмиграфический сервер форм-фактора 6U на базе платформы HGX H100 8-GPU. Внутри установлены восемь ускорителей NVIDIA H100 SXM по 80 ГБ памяти HBM3, суммарно 640 ГБ видеопамяти в одном узле. Это конфигурация для задач, где важны стабильная работа нескольких GPU и высокая пропускная способность между ними.

За центральную часть отвечают два процессора Intel Xeon Scalable 4-го и 5-го поколений в сокете LGA 4677. Платформа рассчитана на обучение и дообучение моделей, развёртывание инференса, RAG-системы и научные расчёты HPC.

Ключевые особенности

• 8× NVIDIA H100 SXM 80GB HBM3 — 640 ГБ общей видеопамяти, достаточно для крупных языковых моделей.
• HGX + NVSwitch — быстрый обмен данными между GPU, что важно для tensor parallel и других схем распределения нагрузки.
• GPUDirect RDMA и GPUDirect Storage — на уровне платформы заявлена оптимизация связи GPU с CPU через режим PCIe Switch Synthetic Mode.
• Аппаратные режимы FP16, FP8, INT8 — ускоряют обучение и serving без потери гибкости пайплайнов.
• До 8 ТБ памяти DDR5 ECC RDIMM — 32 слота DIMM (16+16), поддерживаются RDIMM и RDIMM-3DS.
• Быстрое хранилище — 8 hot-swap 2.5" NVMe PCIe 5.0 x4, ещё 2 hot-swap 2.5" NVMe PCIe 4.0 x4 или SATA и 2 hot-swap 2.5" SATA, а также 2 слота M.2.

Характеристики

Для каких задач подходит

Сервер ориентирован на следующие сценарии:

• обучение и дообучение языковых моделей с распределением по всем восьми GPU;
• промышленный инференс с большим запасом видеопамяти под KV-cache и параллельные запросы;
• RAG-системы и ассистенты на локальных моделях;
• научные расчёты и HPC-нагрузки;
• генерация изображений и видео с диффузионными моделями в больших батчах.

По объёму памяти узла 640 ГБ позволяют размещать крупные модели. Например, DeepSeek-R1 685B в квантизации Q4_K_M требует примерно 404 ГБ, а Qwen3.5-397B-A17B-FP8 — около 406 ГБ. Для моделей поменьше, таких как gpt-oss:120b (примерно 196 ГБ), хватает 2–4 GPU, и остальные карты можно занять другими задачами.

Состояние, проверка и поставка

Оборудование поставляется новым. Перед отправкой мы тестируем его, на устройство действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы. Если нужна конфигурация на этой платформе под ваши задачи и бюджет, свяжитесь с менеджером «СервакМастер» — мы предложим подходящий вариант.

Характеристики