GPU-сервер ASRock Rack 6U8M-TURIN2 SYN MI300X (8× Instinct MI300X 192GB)

Обзор: 6U GPU-сервер на 8× AMD Instinct MI300X

ASRock Rack 6U8M-TURIN2 SYN MI300X — это GPU-платформа формата 6U для крупных задач искусственного интеллекта и высокопроизводительных вычислений. Внутри установлены восемь ускорителей AMD Instinct MI300X по 192 ГБ HBM3 каждый, то есть 1536 ГБ (около 1,5 ТБ) видеопамяти в одном узле. Вычислительную часть обеспечивают два процессора AMD EPYC 9005/9004 в сокете SP5, а программная экосистема строится вокруг ROCm.

Такой объём памяти позволяет разместить на одном сервере очень большие языковые модели вместе с KV-кэшем и крупными батчами, не разбивая нагрузку на несколько машин.

Ключевые особенности

• 8× AMD Instinct MI300X OAM, по 192 ГБ HBM3 на ускоритель, суммарно 1536 ГБ VRAM.
• Связь ускорителей через Infinity Fabric Links.
• Режим PCIe switch synthetic mode для оптимизации обмена GPU–CPU и сценариев GPUDirect RDMA и GPUDirect Storage.
• Два процессора AMD EPYC 9005/9004 (SP5, LGA 6096).
• 24 слота DDR5 RDIMM или RDIMM-3DS, до 6 ТБ оперативной памяти.
• 12 hot-swap отсеков 2.5" NVMe PCIe 5.0 и 2 слота M.2.
• Резервируемое питание 3000 Вт CRPS 80 PLUS Titanium.
• Удалённое управление по IPMI.

Характеристики

Совокупная производительность восьми ускорителей: FP16 и BF16 — 10,4 PFLOPS (20,88 PFLOPS со структурированной разреженностью), FP8 — 20,88 PFLOPS (41,76 PFLOPS с разреженностью), INT8 — 20,8 POPS, FP64 — 653,6 TFLOPS.

Для каких задач подходит

Сервер рассчитан на обучение и дообучение моделей, промышленный инференс, RAG-системы и научные расчёты (HPC). По описанию платформы, 8× MI300X уверенно запускают такие модели, как DeepSeek-R1 685B (около 689 ГБ VRAM), Qwen3.5-397B-A17B (около 807 ГБ), GigaChat3-702B-A36B-preview (около 720 ГБ), Mistral-Large-3-675B-Instruct (около 682 ГБ) и FP8-версию GLM-5 (около 756 ГБ). Для gpt-oss:120b достаточно одного-двух ускорителей, а оставшаяся память остаётся под высокую параллельность и KV-кэш.

Кроме языковых моделей платформа подходит для диффузионных: Stable Diffusion XL 1.0, Flux.2-dev, SD Turbo, Kandinsky-5.0 в вариантах текст-в-изображение и текст-в-видео. Генерацию удобно распараллеливать по отдельным GPU.

Состояние, проверка и поставка

Оборудование поставляется новым. Перед отправкой «СервакМастер» тестирует его, на сервер действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами доставки. Если нужна конфигурация на эту платформу под ваши задачи, свяжитесь с менеджером — мы предложим вариант под бюджет и требования.

Характеристики