GPU-сервер ASRock Rack 6U8M-TURIN2 SYN MI325X (8× Instinct MI325X 256GB)

Обзор платформы ASRock Rack 6U8M-TURIN2 SYN MI325X

ASRock Rack 6U8M-TURIN2 SYN MI325X — это 6U GPU-сервер для тяжёлых AI-нагрузок: обучения и дообучения моделей, инференса, RAG-систем и научных расчётов (HPC). Платформа построена вокруг восьми ускорителей AMD Instinct MI325X в формате OAM и рассчитана на плотную работу GPU с быстрым обменом данными между ними.

В конфигурации установлено 8 × Instinct MI325X по 256 ГБ HBM3e, то есть 2048 ГБ (2 ТБ) видеопамяти на узел. Такой объём позволяет держать в памяти крупные модели и длинный контекст без постоянного упора в лимит VRAM. Процессорная часть — двухсокетная платформа Socket SP5 с поддержкой AMD EPYC 9005/9004, серверная память DDR5 и NVMe-хранилище.

Ключевые особенности

• 8 ускорителей AMD Instinct MI325X OAM, по 256 ГБ HBM3e на каждый;
• суммарно 2048 ГБ видеопамяти — достаточно для запуска моделей уровня сотен миллиардов параметров на одном узле;
• два процессора AMD EPYC 9005/9004 (SP5, LGA 6096);
• до 6 ТБ оперативной памяти DDR5 ECC RDIMM, 24 слота;
• 12 отсеков 2.5" NVMe и два слота M.2 (PCIe 3.0 x4 или SATA 6 Гбит/с, 22110/2280);
• поддержка сценариев с GPUDirect и быстрой межGPU-коммуникацией;
• совокупная мощность восьми ускорителей: 20,9 PFLOPS в FP8 (41,8 PFLOPS со структурированной разреженностью), 10,5 PFLOPS в FP16 и BF16, 653,6 TFLOPS в FP64.

Характеристики

Для каких задач подходит

Сервер рассчитан на работу с большими языковыми моделями и генеративными нагрузками:

• обучение и дообучение моделей;
• инференс и развёртывание LLM для сервисов с высокой параллельностью запросов;
• RAG-системы, где нужен запас памяти под контекст и KV-cache;
• HPC и научные расчёты, анализ данных;
• генерация изображений и коротких видео на диффузионных моделях с распараллеливанием по GPU.

По данным поставщика, на 8 GPU без квантизации помещаются такие модели, как DeepSeek-R1 685B (около 689 ГБ), Qwen3.5-397B-A17B (около 807 ГБ), GigaChat3-702B-A36B-preview (около 720 ГБ), Mistral-Large-3-675B-Instruct (около 682 ГБ) и GLM-5 (около 1,51 ТБ). Модель gpt-oss:120b (около 196 ГБ) укладывается в 1–2 GPU, а остальная память остаётся под параллельные запросы.

Состояние, проверка и поставка

Сервер поставляется новым. «СервакМастер» тестирует оборудование перед отправкой, даёт гарантию 1 год с заменой компонентов и организует доставку по России через СДЭК и другие службы доставки. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — он подберёт подходящий вариант.

Характеристики