Сервер ASRock Rack 6U8X-EGS2 SYN H200 с 8× NVIDIA H200 SXM 141GB

Сервер с восемью GPU для обучения и промышленного инференса

ASRock Rack 6U8X-EGS2 SYN H200 — это 6U-сервер на базе платформы NVIDIA HGX H200 с восемью ускорителями H200 SXM, объединёнными через NVSwitch. Каждая карта несёт 141 ГБ памяти HBM3e, всего в системе доступно 1128 ГБ видеопамяти. Такой запас позволяет держать крупные модели целиком в памяти GPU и оставлять место под KV-cache при длинном контексте.

Версия SYN ориентирована на оптимизацию тракта GPU–CPU: за счёт режима PCIe Switch Synthetic Mode поддерживаются GPUDirect RDMA и GPUDirect Storage. Это важно для стабильной работы multi-GPU serving и тяжёлых обучающих пайплайнов, где данные должны быстро поступать к ускорителям.

Ключевые особенности

• 8× NVIDIA H200 SXM по 141 ГБ HBM3e, суммарно 1128 ГБ VRAM.
• Платформа HGX H200 8-GPU с NVSwitch для быстрой связи между ускорителями.
• Два процессора Intel Xeon Scalable 4-го и 5-го поколения в сокетах LGA 4677.
• До 8 ТБ оперативной памяти DDR5 ECC RDIMM и RDIMM-3DS, 32 DIMM-слота (16+16, 2DPC).
• 8 hot-swap NVMe 2.5" (PCIe 5.0 x4), ещё 2 hot-swap 2.5" NVMe (PCIe 4.0 x4) или SATA и 2 hot-swap 2.5" SATA.
• Два слота M.2 (PCIe 3.0 x4, один также поддерживает SATA 6Gb/s).
• Поддержка GPUDirect RDMA и GPUDirect Storage в режиме PCIe Switch Synthetic Mode.

Характеристики

Для каких задач подходит

Сервер рассчитан на инференс больших языковых моделей с длинным контекстом и высокой параллельностью запросов, а также на RAG-системы. По объёму памяти он подходит и для обучения и дообучения моделей, и для HPC и научных расчётов, когда нагрузку нужно масштабировать на все восемь GPU.

По оценкам поставщика, в конфигурацию помещаются модели вроде DeepSeek-V4-Pro (около 865 ГБ), GigaChat3.5-432B-A28B-bf16 (около 868 ГБ) и Mistral-Large-3-675B-Instruct (около 680–750 ГБ) при распределении по восьми GPU. Gpt-oss:120b требует около 196 ГБ и работает на одном-двух ускорителях. Кроме того, система подходит для генерации изображений и видео: Stable Diffusion XL, Flux.2-dev, Kandinsky-5.0 удобно запускать пакетно и распараллеливать по картам.

Состояние, проверка и поставка

Оборудование поставляется новым. Перед отправкой «СервакМастер» тестирует сервер, на него действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России через СДЭК и другие ведущие транспортные компании. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером.

Характеристики