GPU-сервер ASUS ESC8000-E12P: 8× RTX PRO 6000 BSE 96GB, 2× Xeon 6962P, 512GB RAM

Многопроцессорный GPU-сервер для больших моделей

ASUS ESC8000-E12P SKU1 — это 4U-платформа, в которой установлено восемь видеокарт NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7. Суммарно в одном узле доступно 768 ГБ видеопамяти, поэтому сервер рассчитан на задачи, где решает общий объём VRAM и масштабирование по нескольким GPU: инференс и развёртывание LLM, RAG-системы с высокой параллельностью, дообучение моделей.

96 ГБ на каждой карте позволяют держать крупные контексты, большие батчи или сразу несколько моделей и реплик. Очень большие модели запускаются в распределённом режиме (tensor/pipeline parallel) на 2–8 GPU. Важное ограничение: всё, что не помещается в 96 ГБ, нельзя загрузить в одну карту и требует распределённого запуска.

Ключевые особенности

• 8× NVIDIA RTX PRO 6000 Blackwell Server Edition, по 96 ГБ GDDR7 на карту.
• 768 ГБ суммарной видеопамяти для запуска крупных LLM в рамках одного узла.
• Два процессора Intel Xeon 6962P (72 ядра / 144 потока, 2,7–3,9 ГГц, 500 Вт).
• 512 ГБ DDR5 ECC REG: 16 модулей по 32 ГБ Samsung, 6400 МГц.
• Четыре накопителя Solidigm D7-P5620 6,4 ТБ в формате U.2 2,5".
• Сетевая карта NVIDIA MCX713105AS-WEAT с двумя портами QSFP112 400GbE.
• Совокупная пиковая производительность восьми GPU: FP32 — 960 TFLOPS, FP4 — 32 PFLOPS, RT Core — 2840 TFLOPS.

Характеристики

Для каких задач подходит

По данным о совместимости, конфигурация рассчитана на запуск в vLLM и TensorRT-LLM таких моделей, как DeepSeek-R1 685B (около 689 ГБ), GigaChat3.5-432B-A28B (около 438 ГБ), Mistral-Large-3-675B-Instruct (около 682 ГБ), Kimi-K2.7-Code (около 595 ГБ) и gpt-oss:120b (около 196 ГБ). Для моделей поменьше удобно поднимать несколько реплик параллельно.

Среди других сценариев:

• чат-ассистенты, агентные системы и RAG-сервисы под высокой нагрузкой;
• генерация изображений и видео на диффузионных моделях (Stable Diffusion XL, Flux.2-dev, Kandinsky-5.0) с распределением очереди по восьми GPU;
• дообучение и отдельные сценарии обучения, если пайплайн построен как multi-GPU;
• визуализация, рендеринг и видеоаналитика с несколькими независимыми потоками обработки.

Состояние, проверка и гарантия

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на конфигурацию действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами доставки.

Характеристики