GPU-сервер Supermicro AS-5126GS-TNRT2: 8× RTX PRO 6000 BSE 96GB, 2× EPYC 9554, 1.5 ТБ RAM

Supermicro AS-5126GS-TNRT2: восемь GPU Blackwell в одном 5U-корпусе

Supermicro AS-5126GS-TNRT2 в конфигурации «СервакМастер» — это высокоплотный GPU-сервер для ресурсоёмких ИИ-задач. Платформа построена на двух процессорах AMD EPYC 9554 и несёт восемь ускорителей NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7 с ECC. Суммарно это 768 ГБ видеопамяти на одном узле.

Такой объём VRAM позволяет запускать крупные языковые модели без выгрузки в системную память, держать длинный контекст и KV-cache, а также разворачивать несколько сервисов или реплик параллельно. Доступна экосистема CUDA и режимы точности от FP4 и FP8 до FP16 — в зависимости от выбранного пайплайна.

Ключевые особенности

• 8× NVIDIA RTX PRO 6000 Blackwell Server Edition, по 96 ГБ GDDR7, всего 768 ГБ VRAM.
• Совокупная пиковая мощность восьми GPU: 960 TFLOPS в FP32 и 32 PFLOPS в FP4; производительность RT-ядер — 2840 TFLOPS.
• 2× AMD EPYC 9554 (64 ядра / 128 потоков, 3.1–3.75 ГГц, 360 Вт).
• 1536 ГБ оперативной памяти: 12 модулей DDR5 ECC REG по 128 ГБ. Из 24 DIMM-слотов занята половина, поэтому память можно нарастить без замены установленных модулей.
• Накопители U.2: 4× Solidigm D7-PS1010 1.92 ТБ и 2× Solidigm D7-P5810 800 ГБ; возможно расширение через M.2.
• Две сетевые карты NVIDIA MCX713106AS-VEAT, в сумме 4 порта QSFP112 200GbE — для кластерных и высоконагруженных сетевых сценариев.
• Компоновка 5U.

Характеристики

Для каких задач подходит

• Инференс и развёртывание LLM: в 768 ГБ VRAM, по оценке поставщика, помещаются крупные модели вроде DeepSeek-R1 685B или Mistral-Large-3-675B, а более компактные можно запускать в нескольких экземплярах.
• RAG-системы и агентные сценарии с длинным контекстом и большим числом одновременных запросов.
• Дообучение и обучение моделей на одном узле.
• Генерация изображений и видео диффузионными моделями: параллельные пайплайны, большие батчи, высокое разрешение.
• Визуализация, рендеринг и видеоаналитика — за счёт RT-ядер и большого запаса видеопамяти.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на конфигурацию действует гарантия 1 год с заменой компонентов. Доставка выполняется по России службой СДЭК и другими ведущими транспортными компаниями.

Характеристики