GPU-сервер ASUS ESC8000A-E13 SKU1: 8× RTX PRO 6000 BSE 96GB, 2× EPYC 9575F, RAM 768GB

Обзор: 4U GPU-сервер для крупных ИИ-нагрузок

ASUS ESC8000A-E13 SKU1 — серверная платформа в корпусе 4U, рассчитанная на плотную установку ускорителей. В этой конфигурации в ней работают восемь видеокарт NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7 с ECC, то есть 768 ГБ видеопамяти на одном узле, и два процессора AMD EPYC 9575F.

Такого объёма VRAM достаточно, чтобы держать крупные языковые модели без агрессивной квантизации, распределять их по нескольким GPU (tensor и pipeline parallel) или запускать сразу несколько сервисов и реплик параллельно. Сервер подходит для обучения и дообучения моделей, продакшн-инференса, RAG-систем, а также для визуализации и рендеринга.

Ключевые особенности

• 8 GPU Blackwell по 96 ГБ. Суммарно 768 ГБ GDDR7 ECC, интерфейс PCIe Gen5, тензорные ядра 5-го поколения с поддержкой FP4 для более высокой плотности инференса.
• MIG. Каждый GPU можно разделить на изолированные инстансы (до 4 на карту), что удобно для многопользовательского инференса.
• Два EPYC 9575F. По 64 ядра и 128 потоков, частота 3,3–5 ГГц, 400 Вт на процессор.
• 768 ГБ оперативной памяти. 12 модулей DDR5 ECC REG Samsung 5600 МГц по 64 ГБ, 2Rx4.
• Быстрое хранилище. Два SSD Solidigm D7-PS1030 6,4 ТБ в формате 2,5" U.2.
• Совокупная производительность восьми GPU. По данным описания: FP32 — 960 TFLOPS, FP4 — 32 PFLOPS, RT Core — 2840 TFLOPS (пиковые значения).

Характеристики

Для каких задач подходит

• Крупные LLM. По данным описания, конфигурация рассчитана на запуск моделей уровня DeepSeek-R1 685B (около 689 ГБ VRAM) и Mistral-Large-3-675B (около 682 ГБ) без квантизации, а также Kimi-K2.7-Code (около 595 ГБ). Меньшие модели, например gpt-oss:120b (около 196 ГБ), можно держать в нескольких репликах одновременно.
• Обучение и дообучение. Fine-tuning и training на больших моделях с распределением по восьми GPU.
• RAG и агентные пайплайны. Высокая плотность запросов и длинный контекст на одном узле.
• Генерация изображений и видео. Диффузионные модели вроде Stable Diffusion XL и Flux.2-dev; очередь задач удобно распределять по GPU.
• Визуализация, рендеринг и видеоаналитика.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России через СДЭК и другие ведущие службы доставки.

Характеристики