ASUS ESC8000A-E13-DR: 8× NVIDIA RTX PRO 6000 Blackwell 96GB + 2× AMD EPYC 9174F — AI-сервер в «СервакМастер»
ASUS ESC8000A-E13-DR в «СервакМастер»: флагманская AI-платформа под ключ
ASUS ESC8000A-E13-DR — восьмиускорительная серверная система корпоративного класса, спроектированная специально для ресурсоёмких задач в области искусственного интеллекта и высокопроизводительных вычислений. «СервакМастер» поставляет эту платформу в полностью собранном и протестированном виде: восемь видеокарт NVIDIA RTX PRO 6000 Blackwell Edition с 96 ГБ GDDR7 каждая, два процессора AMD EPYC 9174F и 256 ГБ DDR5 ECC REG оперативной памяти — всё настроено и готово к немедленному развёртыванию.
Покупая сервер у нас, вы получаете:
- Гарантию 1 год на всю систему с заменой неисправных компонентов
- Предотгрузочное тестирование — каждый узел проходит стресс-тест GPU, RAM и сети перед отправкой
- Доставку в Москву, Санкт-Петербург и другие регионы России
- Техническую консультацию по конфигурации, программному стеку и интеграции в инфраструктуру
- Корпоративные условия — работаем с юрлицами по безналичному расчёту, готовим полный пакет документов
Аппаратная платформа: детальный разбор
GPU-подсистема: 8× NVIDIA RTX PRO 6000 Blackwell Edition
Сердце системы — восемь ускорителей NVIDIA RTX PRO 6000 на архитектуре Blackwell. Каждая карта несёт 96 ГБ видеопамяти GDDR7 с высокой пропускной способностью, а совокупный объём VRAM в системе составляет 768 ГБ. Это принципиально меняет возможности при работе с крупными нейросетевыми моделями: параметры десятков миллиардов весов умещаются непосредственно в видеопамяти без прибегания к выгрузке на CPU-RAM или распределению модели по нескольким узлам.
Архитектура Blackwell приносит ощутимые преимущества перед предыдущим поколением Ada Lovelace:
- Улучшенные ядра Tensor Engine 5-го поколения с нативной поддержкой форматов FP8, FP16, BF16 и INT8
- Трансформерный движок, оптимизированный для ускорения инференса и обучения крупных языковых моделей
- Межкарточный обмен по PCIe 5.0 x16 (у RTX PRO 6000 Blackwell Server Edition нет разъёма NVLink)
- Полная совместимость с экосистемой NVIDIA: CUDA, cuDNN, TensorRT, Triton Inference Server, NCCL
Процессорная платформа: 2× AMD EPYC 9174F (Genoa)
Вычислительную основу системы составляют два процессора AMD EPYC 9174F поколения Genoa на 5-нм техпроцессе. Каждый кристалл содержит 16 ядер на архитектуре Zen 4 с тактовой частотой Boost до 4,4 ГГц. Двухсокетная конфигурация даёт суммарно 32 физических ядра и 64 потока выполнения — достаточно для параллельной оркестровки многочисленных GPU-потоков, препроцессинга обучающих датасетов и обслуживания высоконагруженных API.
Технические достоинства AMD EPYC 9174F:
- PCIe 5.0 — прямая высокоскоростная связь с каждым GPU (платформа даёт 128 линий PCIe 5.0 в двухсокетной конфигурации)
- Двенадцатиканальный контроллер DDR5-4800 для максимальной полосы памяти на процессор
- Встроенная поддержка AVX-512 для эффективных векторных и матричных операций на CPU
- Технология AMD SEV-SNP для аппаратной изоляции и защиты конфиденциальных рабочих нагрузок
Оперативная память: 256 ГБ DDR5 ECC REG
Система оснащена 256 ГБ регистровой серверной памяти стандарта DDR5 с аппаратной коррекцией ошибок (ECC REG). Применение ECC обязательно в средах, где одиночная битовая ошибка способна нарушить целостность вычислений или испортить результаты длительного обучающего прогона. DDR5 предлагает более высокую пропускную способность и сниженное энергопотребление относительно DDR4, что заметно при работе с большими батчами обучающих данных.
Платформа ESC8000A-E13 имеет 24 слота DIMM (12 каналов на процессор) и допускает масштабирование памяти — до 3 ТБ по данным дистрибьюторов платформы.
Сценарии применения
Обучение и дообучение больших языковых моделей
768 ГБ суммарной VRAM позволяют размещать в видеопамяти полные копии моделей с десятками миллиардов параметров. Это устраняет необходимость в pipeline-параллелизме между несколькими узлами и сокращает накладные расходы на передачу весов. Подходит для полного обучения с нуля, LoRA/QLoRA-дообучения и RLHF-выравнивания.
Производительный инференс
Восемь ускорителей Blackwell с движком TensorRT обеспечивают высокую пропускную способность запросов при минимальной задержке. Система одинаково хорошо подходит как для пакетной обработки (batch inference), так и для production-эндпоинтов с требованиями к реальному времени, включая мультимодальные сервисы.
RAG-системы и семантический поиск
При работе с Retrieval-Augmented Generation важны и объём VRAM, и скорость CPU. В данной конфигурации векторные индексы и эмбеддинг-модели целиком размещаются в видеопамяти, а многоядерные EPYC 9174F эффективно справляются с параллельной обработкой поисковых запросов.
Профессиональный рендеринг и визуализация
RTX PRO 6000 Blackwell Edition поддерживает аппаратную трассировку лучей (RT Core 4-го поколения) и стек NVIDIA Omniverse. Это делает сервер привлекательным для студий 3D-визуализации, архитектурного проектирования, VFX-производства и интерактивных симуляций.
Научные и инженерные HPC-расчёты
Высокая плотность вычислительной мощи GPU в сочетании с 32 процессорными ядрами подходит для молекулярной динамики, аэродинамического моделирования, финансовых расчётов и других задач, требующих GPU-ускорения.
Форм-фактор и инфраструктурная интеграция
Сервер выполнен в форм-факторе 6U для стандартного 19-дюймового стоечного шкафа. Платформа ASUS ESC8000A-E13 (ревизия E13, третье поколение) обеспечивает:
- Слоты PCIe 5.0 x16 для каждого из восьми GPU без деградации пропускной способности
- Высокоэффективную систему охлаждения, рассчитанную на непрерывную нагрузку 24/7 в условиях ЦОД
- Слоты PCIe 5.0 под сетевые адаптеры и DPU для подключения к фабрике хранилища данных и вычислительному кластеру
- IPMI/BMC для удалённого управления питанием, мониторинга температур и диагностики без физического доступа к серверу
- Горячезаменяемые резервированные блоки питания для обеспечения непрерывности работы
Комплектация и условия поставки
«СервакМастер» отгружает ASUS ESC8000A-E13-DR в полностью собранном и протестированном состоянии. Перед отправкой специалисты проводят цикл верификации: стабильность GPU под нагрузкой, корректность определения всех планок памяти, работоспособность сетевых интерфейсов и систем охлаждения.
Состав поставки:
- Сервер ASUS ESC8000A-E13-DR в сборе: 8× NVIDIA RTX PRO 6000 BSE 96GB, 2× AMD EPYC 9174F, 256 ГБ DDR5 ECC REG
- Кабели питания и монтажный комплект для установки в стойку
- Документация ASUS на систему
- Гарантийный талон «СервакМастер» (1 год)
Наличие: уточняйте актуальные остатки у менеджеров «СервакМастер» — свяжитесь удобным для вас способом.
Ответы на частые вопросы
Можно ли увеличить объём оперативной памяти? Да. Платформа ESC8000A-E13 имеет 24 слота DIMM и допускает до 3 ТБ DDR5 (по данным дистрибьюторов). Конфигурация 256 ГБ — стартовая; уточните варианты расширения у менеджеров «СервакМастер».
Поддерживаются ли мосты NVLink между видеокартами? Для платформы ASUS заявлен опциональный NVLink Bridge, но он относится к ускорителям, у которых есть разъём NVLink (например, H200 NVL). У RTX PRO 6000 Blackwell Server Edition NVLink нет, поэтому карты обмениваются данными по PCIe 5.0 x16.
С какими операционными системами и фреймворками работает сервер? Поддерживаются Ubuntu Server 22.04/24.04, Rocky Linux, CentOS Stream, Windows Server 2022. Для AI-задач рекомендуется NVIDIA CUDA Toolkit актуальной версии совместно с PyTorch, TensorFlow или JAX.
Как оформить корпоративную покупку? Свяжитесь с нами для получения коммерческого предложения, счёта-фактуры и договора поставки. Работаем с юридическими лицами по безналичному расчёту, включая НДС.
Платформа ESC8000A-E13: что внутри шасси
Конфигурация построена на GPU-платформе ASUS ESC8000A-E13: двухсокетной системе под процессоры AMD EPYC 9004/9005 с восемью полноразмерными слотами PCIe 5.0 x16 для ускорителей. Ниже — параметры платформы по данным ASUS и дистрибьюторов; они определяют, что можно доустановить и что нужно подготовить в стойке.
| Узел | Параметры платформы |
|---|---|
| Шасси | 4U rackmount, безынструментальная конструкция |
| Процессоры | 2× AMD EPYC 9005/9004 (Socket SP5), до 500 Вт TDP на сокет, до 192 ядер Zen 5c; 128 линий PCIe 5.0 в двухсокетной конфигурации |
| Память | 24 слота DIMM, 12-канальная DDR5 на процессор, до 6400 МГц; до 3 ТБ (по данным дистрибьюторов) |
| GPU | до 8 двухслотовых ускорителей (активное или пассивное охлаждение), 8× PCIe 5.0 x16 FHFL, до 600 Вт на GPU; опционально NVLink Bridge |
| Дополнительные слоты | спереди: 1× PCIe 5.0 x8 FHHL (RAID/HBA); сзади: 1× x16 FHHL (сетевая карта или DPU BlueField-3) и 1× x8 FHHL; в середине шасси: 1× x16 FHHL и 1× x8 FHHL (опционально) |
| Накопители | 8× 2,5" hot-swap спереди; по описанию ASUS — до 6 NVMe U.2 при установке RAID/HBA |
| Управление | ASMB12-iKVM, BMC ASPEED AST2600, IPMI, Redfish API, ASUS Control Center, TPM 2.0, аппаратный Root-of-Trust |
| Питание | 4× 3200 Вт, схема 3+1, 80 PLUS Titanium, 220–240 В AC |
| Охлаждение | воздушное: 5 системных и 5 GPU-вентиляторов 8080 с горячей заменой |
| Габариты и вес | 439,5 × 800 × 175 мм (Ш×Г×В), около 42 кг нетто |
| Рабочая температура | 10–35 °C, влажность 20–95% без конденсации |
Практические замечания. Встроенная сеть у платформы в источниках не описана (указан только порт управления BMC), поэтому для связи с хранилищем и другими узлами планируйте сетевую карту 25/100 GbE или InfiniBand в один из слотов FHHL. Глубина шасси 800 мм: стойка нужна глубиной не менее 1000 мм.
Какие модели ИИ поместятся в 768 ГБ видеопамяти
Оценка по объёму весов; сверху нужен запас под KV-кэш (контекст) и активации. В каждой из восьми карт 96 ГБ GDDR7, суммарно 768 ГБ. Архитектура Blackwell поддерживает FP8 и FP4 аппаратно, а восемь карт — степень двойки, что удобно для тензорного параллелизма (TP=2, 4, 8).
| Модель | Точность | Веса, ≈ ГБ | Как разместить на 8× 96 ГБ |
|---|---|---|---|
| Llama 3.1 8B | FP16 | 16 | на одной карте; до 8 независимых копий |
| Qwen2.5 32B | BF16 | 65 | на одной карте с запасом ≈30 ГБ под контекст; до 8 копий |
| Llama 3.3 70B, Qwen2.5 72B | FP16 | 140–145 | на двух картах (TP=2); четыре копии на сервер |
| Llama 3.3 70B | FP8 | 70 | на одной карте с небольшим контекстом или на двух с большим запасом |
| Mixtral 8×22B | FP16 | ≈282 | на четырёх картах (TP=4); две копии |
| Llama 3.1 405B | FP8 | 405 | на всех восьми картах (TP=8); около 360 ГБ остаётся под KV-кэш |
| DeepSeek-R1 / V3 (671B) | FP8 | ≈671 | формально помещается на восьми картах, но запас ≈97 ГБ на весь сервер; контекст и число запросов придётся ограничивать |
| DeepSeek-R1 / V3 (671B) | INT4 / FP4 | ≈340 | на четырёх-восьми картах с хорошим запасом под контекст |
| Llama 3.1 405B | FP16 | 810 | не помещается |
Важно: карты связаны по PCIe 5.0, а не NVLink, поэтому при большом тензорном параллелизме межкарточный обмен идёт по шине PCIe. Для моделей, умещающихся на 1–2 картах, выгоднее запускать несколько независимых копий.
Питание, охлаждение и размещение
Оценка пикового потребления по паспортным TDP компонентов:
| Потребитель | Мощность |
|---|---|
| 8× NVIDIA RTX PRO 6000 Blackwell Server Edition (по 600 Вт) | 4800 Вт |
| 2× AMD EPYC 9174F (по 320 Вт) | 640 Вт |
| Память, накопители, вентиляторы, платы | ≈ 400–500 Вт |
| Итого под полной нагрузкой | ≈ 5,9–6,0 кВт |
- Электропитание. Четыре блока по 3200 Вт работают по схеме 3+1: при выходе одного блока оставшиеся три покрывают расчётную нагрузку с запасом. Блоки рассчитаны на 220–240 В; подключать их следует к двум независимым линиям (PDU A и PDU B). Однофазное питание 110–127 В не подходит.
- Тепло. 6 кВт под нагрузкой — это около 20,5 тыс. BTU/ч (6 × 3412), которые должна отвести система кондиционирования. Допустимая температура на входе — 10–35 °C. Охлаждение воздушное, так что холодный и горячий коридоры стоит разделить.
- Стойка. Платформа имеет габариты 439,5 × 800 × 175 мм и вес около 42 кг нетто (без учёта установленных GPU): нужны рельсы, стойка глубиной от 1000 мм и размещение в нижней части шкафа. Мощность на стойку по спецификации не нормируется, поэтому проверьте лимит PDU в вашей серверной.
Сравнение с соседними конфигурациями
| Конфигурация | GPU | Процессоры | RAM | Цена |
|---|---|---|---|---|
| Эта: ESC8000A-E13-DR | 8× RTX PRO 6000 BSE 96GB | 2× EPYC 9174F | 256 ГБ | 13 935 600 руб. |
| ESC8000A-E13 SKU1 | 8× RTX PRO 6000 BSE 96GB | 2× EPYC 9575F | 768 ГБ | 39 628 800 руб. |
| ESC8000A-E13P | 8× RTX PRO 6000 BSE 96GB | 2× EPYC 9845 | 1,5 ТБ | 42 046 500 руб. |
| GIGABYTE G494-ZB4-AAP2 | 8× RTX PRO 6000 BSE 96GB | 2× EPYC 9655 | 768 ГБ | 42 475 300 руб. |
У всех четырёх конфигураций одинаковый набор GPU: 8 карт и 768 ГБ видеопамяти. Различаются процессоры и объём оперативной памяти, а у этой конфигурации — и цена. Вариант с 256 ГБ RAM и 16-ядерными EPYC подходит, когда главная нагрузка лежит на GPU, а датасеты и индексы не нужно держать в памяти. Если важен большой объём RAM или многоядерные процессоры для предобработки данных, смотрите SKU1 или E13P.
Частые вопросы
Какие процессоры поддерживает платформа? Два процессора AMD EPYC серий 9004 и 9005 (Socket SP5) с TDP до 500 Вт на сокет, до 192 ядер Zen 5c. В этой конфигурации установлены две 16-ядерные EPYC 9174F.
Какие накопители можно установить? Спереди 8 отсеков 2,5" с горячей заменой; по описанию ASUS при установке RAID/HBA доступно до 6 NVMe U.2. Сведения о SATA и разъёмах M.2 в источниках расходятся, их лучше уточнить при заказе.
Какую сеть использовать? Для объединения узлов и доступа к хранилищу ставят сетевую карту или DPU BlueField-3 в слот FHHL PCIe 5.0 x16 на задней панели или в середине шасси. Для управления есть выделенный порт BMC.
Какие средства удалённого управления есть? BMC ASPEED AST2600 с веб-интерфейсом, IPMI и Redfish API, ASUS Control Center, а также TPM 2.0 и аппаратный Root-of-Trust.
Условия гарантии описаны на странице «Гарантия», способы и сроки доставки — на странице «Доставка».
Характеристики
| Тип | Новые |
| Основная задача | Обучение моделей / Инференс / Дообучение моделей / RAG-системы / Визуализация и рендеринг |
| Процессор (CPU) | AMD EPYC |
| Видеокарта (GPU) | NVIDIA RTX PRO 6000 Blackwell |
| Количество GPU, шт | 8 |
| Общий объем видеопамяти (VRAM), ГБ | 768 |
| Тип памяти GPU | GDDR7 |
| Объем оперативной памяти (RAM), ГБ | 256 |
| Тип оперативной памяти | DDR5 ECC REG |
| Форм-фактор | 6U |
| Процессорные сокеты платформы | 2× Socket SP5, AMD EPYC 9004/9005, до 500 Вт TDP на сокет |
| Слоты памяти платформы | 24 DIMM, 12 каналов DDR5 на CPU, до 6400 МГц |
| GPU-слоты платформы | до 8 двухслотовых GPU, 8× PCIe 5.0 x16 FHFL, до 600 Вт на GPU |
| Дополнительные слоты PCIe | до 5 слотов FHHL PCIe 5.0 (x16 и x8) под сетевые карты, DPU, RAID/HBA |
| Накопители | 8× 2,5" hot-swap спереди, до 6 NVMe U.2 при установке RAID/HBA |
| Управление | ASPEED AST2600, IPMI, Redfish, TPM 2.0, аппаратный Root-of-Trust |
| Блоки питания | 4× 3200 Вт, 3+1, 80 PLUS Titanium, 220–240 В |
| Охлаждение | воздушное: 5 системных + 5 GPU-вентиляторов 8080, горячая замена |
| Габариты (Ш×Г×В) | 439,5 × 800 × 175 мм |
| Вес | 42 кг нетто |
| Рабочая температура | 10–35 °C |