GPU-сервер ASUS ESC A8A-E12U на 8× AMD Instinct MI325X 256GB (2 ТБ HBM3e)
ASUS ESC A8A-E12U: восемь Instinct MI325X в одном узле
ASUS ESC A8A-E12U — это 7U-платформа для тяжёлых AI-нагрузок на базе ускорителей AMD Instinct MI325X. В корпусе установлено восемь GPU в формате OAM по 256 ГБ памяти HBM3e каждый, то есть 2048 ГБ (2 ТБ) видеопамяти на один сервер. За вычислительную часть отвечают два процессора AMD EPYC серий 9005/9004 и до 3 ТБ оперативной памяти DDR5.
Такой объём VRAM позволяет держать на одном узле очень крупные языковые модели без квантизации, оставляя запас под длинный контекст, KV-cache и большие батчи. Платформа ориентирована на программный стек ROCm, поэтому лучше всего подходит командам, которые готовы строить и оптимизировать обучение и инференс в экосистеме AMD.
Ключевые особенности
- 8 ускорителей AMD Instinct MI325X OAM по 256 ГБ HBM3e, суммарно 2048 ГБ видеопамяти.
- Два процессора AMD EPYC 9005/9004 (сокет SP5, LGA 6096).
- До 3 ТБ оперативной памяти DDR5 ECC RDIMM, 24 слота.
- 10 отсеков 2.5" NVMe: 8 спереди и 2 сзади.
- Совокупная производительность восьми GPU: 20.9 PFLOPS в FP8 (41.8 PFLOPS со структурированной разреженностью), 10.5 PFLOPS в FP16 и BF16, 653.6 TFLOPS в FP64.
- Запас памяти под модели уровня DeepSeek-R1 685B, Qwen3.5-397B-A17B, GigaChat3-702B-A36B-preview и Mistral-Large-3-675B без квантизации; по оценкам поставщика, даже GLM-5 (около 1.51 ТБ) помещается на 8 GPU.
- Подходит и для диффузионных моделей, например Stable Diffusion XL 1.0 и Flux.2-dev: пайплайны и батчи удобно распараллеливаются по GPU.
Характеристики
| Параметр | Значение |
|---|---|
| Состояние | Новое |
| Форм-фактор | 7U |
| Ускорители | 8× AMD Instinct MI325X OAM 256GB HBM3e |
| Суммарный объём VRAM | 2048 ГБ |
| Процессор | 2× AMD EPYC 9005/9004 (SP5, LGA 6096) |
| Оперативная память | до 3 ТБ DDR5 ECC RDIMM, 24 слота |
| Накопители | 10× 2.5" NVMe (8 спереди и 2 сзади) |
| Производительность FP8 | 20.9 PFLOPS (41.8 PFLOPS с разреженностью) |
| Производительность FP16 / BF16 | 10.5 PFLOPS (20.9 PFLOPS с разреженностью) |
| Производительность FP64 | 653.6 TFLOPS |
Для каких задач подходит
- Обучение и дообучение (fine-tuning) крупных языковых моделей.
- Инференс и развёртывание больших моделей с высокой параллельностью запросов.
- RAG-системы, где нужно держать рядом несколько моделей и очередей.
- Анализ данных и научные расчёты (HPC), включая задачи с двойной точностью.
- Генерация изображений и короткого видео диффузионными моделями, в том числе несколькими пайплайнами одновременно.
Состояние, проверка и поставка
Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами доставки. Если нужна конфигурация этой платформы под ваши задачи и бюджет, свяжитесь с менеджером — мы предложим подходящий вариант.
Характеристики
| Тип | Новые |
| Основная задача | Обучение моделей / Инференс / Дообучение моделей / RAG-системы / Анализ данных / Научные расчеты (HPC) |
| Процессор (CPU) | AMD EPYC |
| Видеокарта (GPU) | AMD Instinct MI325X |
| Количество GPU, шт | 8 |
| Общий объем видеопамяти (VRAM), ГБ | 2048 |
| Тип памяти GPU | HBM3e |
| Объем оперативной памяти (RAM), ГБ | 3072 |
| Тип оперативной памяти | DDR5 ECC REG |
| Форм-фактор | 7U |