ASRock Rack 8U16X-TURIN2 B300 — GPU-сервер 8U на 8× NVIDIA B300 SXM 288GB

ASRock Rack 8U16X-TURIN2 B300: флагманский GPU-сервер для больших моделей

ASRock Rack 8U16X-TURIN2 B300 — восьмиюнитовый сервер на референсной платформе NVIDIA HGX B300 с восемью ускорителями B300 SXM по 288 ГБ HBM3e. Суммарно это 2304 ГБ видеопамяти (около 2,3 ТБ), объединённых связностью NVIDIA NVLink. Такая плотность рассчитана на обучение и дообучение крупных моделей, а также на промышленный инференс с длинным контекстом и большим числом параллельных запросов.

Вычислительную часть дополняют два процессора AMD EPYC 9005/9004 в сокете SP5 и до 6 ТБ оперативной памяти DDR5. Важная оговорка: на странице производителя модель отмечена как Preliminary, поэтому финальные спецификации и опции могут уточняться — детали конфигурации лучше сверить с менеджером перед заказом.

Ключевые особенности

• 8× NVIDIA B300 SXM 288GB — архитектура Blackwell Ultra, память HBM3e, 2304 ГБ VRAM суммарно.
• Совокупная мощность HGX B300 8-GPU: 72 PFLOPS в FP8/FP6 (обучение) и 144 PFLOPS в FP4 (инференс).
• Два процессора AMD EPYC 9005/9004 (Dual Socket SP5, LGA 6096), поддерживаются варианты с 3D V-Cache и серия 97x4.
• 24 слота DIMM (1DPC), DDR5-6400 RDIMM/RDIMM-3DS, максимум до 6 ТБ.
• Накопители: 12× hot-swap 2.5" NVMe (PCIe 5.0 x4) и 2× M.2 (PCIe 3.0 x2 или SATA 6 Гбит/с; PCIe 3.0 x4 или SATA 6 Гбит/с).
• Сеть: 8× OSFP 800 Гбит/с на базе NVIDIA ConnectX-8 SuperNIC и 2× RJ-45 1GbE.
• Удалённое управление через IPMI.

Характеристики

Для каких задач подходит

Объём памяти в 2,3 ТБ позволяет запускать крупные языковые модели без квантизации в распределённом режиме. По оценкам из описания, DeepSeek-V4-Pro требует порядка 865 ГБ, Mistral-Large-3-675B — около 682 ГБ, GigaChat3.5-432B — около 868 ГБ, а для GLM-5.2 (примерно 1,51 ТБ) и Kimi-K3 (примерно 1,56 ТБ) рекомендуется 4–8 GPU. Модель среднего класса вроде gpt-oss:120b (около 196 ГБ) помещается на 1–2 ускорителя, а остальные можно загрузить параллельными инстансами.

Помимо LLM, платформа подходит для:

• обучения и дообучения моделей;
• RAG-систем и агентных сценариев в production;
• научных расчётов (HPC) и анализа данных;
• генерации изображений и видео: Stable Diffusion XL, Flux.2-dev, Kandinsky 5.0 — с распараллеливанием очередей по GPU.

Состояние, проверка и гарантия

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на конфигурацию действует гарантия 1 год с заменой компонентов. Доставляем по России СДЭК и другими ведущими службами. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — подберём подходящий вариант.

Характеристики