Сервер ASUS ESC8000-E12 для ИИ: 8× RTX PRO 6000 BSE 96GB, 2× Xeon 6962P, 512GB RAM

ASUS ESC8000-E12: восемь GPU Blackwell в одном 4U-узле

ASUS ESC8000-E12 — это GPU-сервер, рассчитанный на тяжёлые многокарточные нагрузки. В данной конфигурации установлено восемь ускорителей NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7, то есть суммарно 768 ГБ видеопамяти, два процессора Intel Xeon 6-й серии и 512 ГБ оперативной памяти DDR5 ECC REG.

Такой объём VRAM позволяет запускать очень крупные языковые модели в распределённом режиме (tensor/pipeline parallel) и одновременно держать несколько сервисов: чат, ранжирование, эмбеддинги, суммаризацию. Всё, что не помещается в 96 ГБ одной карты, раскладывается на 2–8 GPU внутри одного сервера.

Ключевые особенности

• 768 ГБ видеопамяти GDDR7 — по 96 ГБ на каждый из восьми ускорителей, достаточно для больших контекстов, крупных батчей и нескольких реплик модели.
• Архитектура Blackwell — совокупная мощность восьми карт по данным поставщика: 960 TFLOPS в FP32, 32 PFLOPS в FP4, 2840 TFLOPS производительности RT-ядер.
• Два процессора Intel Xeon 6-й серии и 512 ГБ DDR5 ECC REG для подготовки данных и обслуживания очередей запросов.
• Быстрое хранилище и сеть — в описании поставщика указаны четыре накопителя Solidigm D7-P5520 7,68 ТБ (U.2) и сетевая карта NVIDIA MCX713106AC-VEAT с двумя портами QSFP112 200GbE.
• Крупные LLM на одном узле — поставщик отмечает совместимость с DeepSeek-R1 685B, Mistral-Large-3-675B, GigaChat3.5-432B, Kimi-K2.7-Code, а также с Qwen, gpt-oss:120b и другими моделями при запуске через vLLM или TensorRT-LLM.
• Диффузионные модели — Stable Diffusion XL, Flux.2-dev, SD Turbo и Kandinsky 5.0 удобно распараллеливаются по картам.

Характеристики

Для каких задач подходит

• Инференс и развёртывание больших языковых моделей под высокой нагрузкой, в том числе в режиме нескольких реплик.
• RAG-системы с параллельной работой генерации, эмбеддингов и ранжирования.
• Дообучение моделей (fine-tuning) и отдельные сценарии обучения в multi-GPU конфигурации.
• Визуализация, рендеринг и генерация изображений и коротких видео.
• Видеоаналитика: несколько потоков и разные модели на разных картах.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка выполняется по России службой СДЭК и другими ведущими службами доставки. Состав конфигурации и совместимость с вашим программным стеком можно уточнить у наших специалистов до заказа.

Характеристики