Сервер Supermicro AS-8126GS-TNMR: 8× AMD Instinct MI350X 288GB, 2304 ГБ HBM3e

Supermicro AS-8126GS-TNMR: платформа для крупных ИИ-моделей на AMD Instinct

Supermicro AS-8126GS-TNMR — это GPU-сервер в корпусе 8U, построенный вокруг восьми ускорителей AMD Instinct MI350X в формате OAM. Каждый ускоритель несёт 288 ГБ памяти HBM3e, поэтому на узле доступно 2304 ГБ видеопамяти. Платформа рассчитана на два процессора AMD EPYC (сокет SP5) и работу в экосистеме ROCm.

Главное преимущество такой конфигурации — объём памяти. Крупные языковые модели, длинный контекст и KV-cache размещаются без постоянной выгрузки данных, а оставшийся запас можно отдать под параллельные запросы в продакшн-сервисах.

Ключевые особенности

• 8 × AMD Instinct MI350X OAM по 288 ГБ HBM3e, суммарно 2304 ГБ (около 2,3 ТБ) видеопамяти.
• Два процессора AMD EPYC 9005/9004 на сокете SP5 (LGA 6096).
• До 6 ТБ оперативной памяти DDR5 ECC RDIMM, 24 слота.
• Дисковая подсистема: 8 × 2,5" NVMe, 2 × 2,5" SATA и 2 × M.2 NVMe (PCIe 3.0 x4, формат 22110).
• Совокупная производительность восьми ускорителей по данным поставщика: до 36,8 PFLOPS в FP8 и 18,4 PFLOPS в FP16/BF16 (Matrix); с учётом структурированной разреженности значения вдвое выше.
• По оценке поставщика, на узле помещаются полноразмерные модели класса 700 ГБ – 1,5 ТБ по требованиям к памяти, например DeepSeek-V4-Pro, GigaChat3.5-432B-A28B, Mistral-Large-3-675B, GLM-5.2 и Kimi-K3, а также диффузионные модели вроде Stable Diffusion XL и Flux.2-dev.

Характеристики

Для каких задач подходит

Сервер ориентирован на нагрузки, где ограничением становится объём памяти ускорителей:

• обучение и дообучение (fine-tuning) больших языковых моделей;
• инференс и развёртывание моделей в продакшне с высокой параллельностью запросов;
• RAG-системы и агентные сценарии с длинным контекстом;
• генерация изображений и коротких видео на диффузионных моделях;
• научные расчёты и HPC-задачи, а также анализ данных.

Состояние, проверка и доставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами. Если нужна конфигурация на эту платформу под ваши задачи, свяжитесь с менеджером: мы предложим вариант под бюджет и требования.

Характеристики