ASUS ESC N8A-E12 — 8-GPU сервер на NVIDIA HGX H100 SXM 80GB (640 ГБ HBM3)

Обзор: GPU-сервер ASUS ESC N8A-E12 на платформе NVIDIA HGX H100

ASUS ESC N8A-E12 — это 7U-платформа с восемью ускорителями NVIDIA H100 SXM по 80 ГБ HBM3 каждый, объединёнными в единый модуль HGX. Суммарно доступно 640 ГБ видеопамяти, а плотная связность между GPU делает систему подходящей для распределённых режимов (TP, PP, DP), где модель не помещается на одну карту.

В основе сервера два процессора AMD EPYC 9004 и до 6 ТБ оперативной памяти DDR5 ECC REG. Такая конфигурация рассчитана на промышленное обучение и дообучение моделей, развёртывание LLM с высокой нагрузкой и научные расчёты. Учтите: на странице производителя модель отмечена как EOL, поэтому доступность поставок стоит уточнять заранее.

Ключевые особенности

• 8× NVIDIA H100 SXM 80GB HBM3, суммарно 640 ГБ VRAM.
• Hopper-архитектура с ускорением FP16, FP8 и INT8 — удобна для serving при большом числе параллельных запросов.
• Два сокета AMD EPYC 9004 (Socket SP5, до 400 Вт TDP на процессор).
• 24 слота DIMM, 12 каналов памяти на процессор, до 6 ТБ DDR5 ECC REG.
• Накопители: 10 отсеков 2.5" hot-swap (спереди 8× NVMe, сзади 2× NVMe / SATA / SAS) и 2× M.2 Gen5 x4 на CPU1.
• Для SATA/SAS-дисков потребуется HBA- или RAID-контроллер.
• Совокупная производительность восьми H100 SXM: FP8 Tensor Core — 31 664 TFLOPS, BF16/FP16 — 15 832 TFLOPS, TF32 — 7 912 TFLOPS, FP64 Tensor Core — 536 TFLOPS.

Характеристики

Для каких задач подходит

Сервер рассчитан на работу с крупными языковыми моделями. По данным совместимости, в 640 ГБ VRAM помещаются квантизированные DeepSeek-R1 685B (Q4_K_M, около 404 ГБ), Mistral-Large-3 675B (Q4_K_M, около 407 ГБ), GLM-5 (Q4_K_M, около 456 ГБ), а также Qwen3.5-397B-A17B в FP8 (около 406 ГБ). Модель gpt-oss:120b (около 196 ГБ) комфортно размещается на 2–4 GPU.

Для диффузионных моделей подходят Stable Diffusion XL, SD Turbo и Kandinsky-5.0: очереди генерации удобно распределять по GPU. Для Flux.2-dev (около 178 ГБ VRAM) обычно требуются multi-GPU режим или оптимизации памяти.

Практическое ограничение: при длинном контексте и росте batch кэш KV быстро занимает видеопамять, поэтому пропускная способность зависит от лимитов контекста и выбранной стратегии распараллеливания.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими службами. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — мы подберём подходящий вариант.

Характеристики