Supermicro 4125GS-TNRT с 8× NVIDIA H200 NVL 141 ГБ и 2× AMD EPYC 9845 — СервакМастер

Supermicro 4125GS-TNRT — максимальная GPU-плотность для задач ИИ в формате 4U

Supermicro 4125GS-TNRT — это вычислительная платформа уровня датацентра, которая вмещает восемь ускорителей NVIDIA H200 NVL по 141 ГБ каждый в корпус форм-фактора 4U. В каталоге «СервакМастер» сервер предлагается в полностью укомплектованной конфигурации: два процессора AMD EPYC 9845 и 2048 ГБ оперативной памяти DDR5 ECC REG обеспечивают надёжный фундамент для непрерывных вычислительных нагрузок корпоративного класса.

Суммарный объём видеопамяти составляет 1128 ГБ HBM3e — показатель, принципиально важный при развёртывании крупных языковых моделей и мультимодальных архитектур. Когда вся модель размещается в VRAM без фрагментации, скорость инференса и пропускная способность по токенам растут кратно, а задержки на своп между GPU и системной памятью устраняются полностью.

Процессорная база: AMD EPYC 9845 и высокоскоростная системная память

Два процессора AMD EPYC 9845 относятся к серии EPYC 9005 (архитектура Zen 5c, сокет SP5) и по паспорту AMD имеют по 160 ядер / 320 потоков на процессор, с поддержкой шины PCIe 5.0. Это означает, что каждый GPU получает полосу пропускания, достаточную для насыщения HBM3e-памяти ускорителя входящими данными без образования узких мест на интерфейсном уровне.

Установленные 2048 ГБ DDR5 ECC REG позволяют размещать в оперативной памяти крупные обучающие датасеты и промежуточные буферы. При конвейерной обработке данных это исключает необходимость частого обращения к NVMe-накопителям и заметно ускоряет итерации в фазе препроцессинга перед подачей батчей на GPU.

Ускорители NVIDIA H200 NVL: что отличает их от предыдущего поколения

NVIDIA H200 NVL отличается от базовой версии H100 SXM по двум ключевым параметрам:

• Объём HBM3e-памяти: 141 ГБ на ускоритель против 80 ГБ у H100 SXM — прирост 76%, что позволяет запускать значительно более крупные модели без дополнительного тензорного параллелизма.
• Пропускная способность памяти: свыше 4,8 ТБ/с на один GPU — в сценариях с большим объёмом выборок по памяти это напрямую конвертируется в ускорение обработки.

Суффикс NVL (NVLink Bridge) указывает на объединение пар ускорителей через интерконнект NVLink четвёртого поколения. Прямой GPU-to-GPU канал устраняет зависимость от PCIe при межускорительном обмене: градиенты, активации и шардированные тензоры передаются с минимальной задержкой, что критически важно при тензорном и трубопроводном параллелизме в ходе обучения.

Задачи, для которых создан этот сервер

Supermicro 4125GS-TNRT оптимален для следующих сценариев:

• Предобучение и полное дообучение LLM — модели с десятками и сотнями миллиардов параметров обучаются без разгрузки весов в CPU-память благодаря суммарным 1128 ГБ VRAM.
• Высоконагруженный инференс — одновременное обслуживание множества запросов в production с минимальной задержкой на токен и стабильным throughput.
• RAG-системы и векторный поиск — построение и обслуживание корпусов эмбеддингов с GPU-ускоренным поиском по семантически близким фрагментам.
• Научные и инженерные расчёты (HPC) — молекулярная динамика, вычислительная гидродинамика, квантовая химия и другие задачи, масштабирующиеся на GPU-кластер.
• Анализ и трансформация больших данных — ускоренная обработка датасетов с помощью RAPIDS cuDF, cuML и аналогичных библиотек GPU-вычислений.

Таблица конфигурации

Преимущества покупки в «СервакМастер»

«СервакМастер» поставляет серверное оборудование напрямую от дистрибьюторов и авторизованных партнёров производителей. Это гарантирует оригинальность компонентов и прозрачную ценовую политику без наценок посредников.

• Гарантия 1 год — неисправный компонент заменяется в течение гарантийного срока без дополнительных расходов с вашей стороны.
• Функциональное тестирование перед отправкой — каждая система проходит POST, диагностику ОЗУ, верификацию всех GPU и проверку термального режима.
• Доставка по всей России — отправка через СДЭК и надёжных транспортных партнёров; возможно страхование груза на полную стоимость.
• Нестандартные конфигурации — если стандартная сборка не закрывает ваши требования (другой объём RAM, дополнительные NVMe, специализированные HBA или сетевые карты), наши инженеры рассчитают индивидуальную конфигурацию.
• Техническая поддержка — после продажи мы консультируем по вопросам интеграции сервера в существующую инфраструктуру: сетевая топология, системы охлаждения, IPMI/BMC, оркестраторы Kubernetes/Slurm.

Как оформить заказ

Для покупки Supermicro 4125GS-TNRT или уточнения сроков поставки оставьте заявку через форму на сайте либо напишите нам в разделе «Контакты». Специалисты «СервакМастер» уточнят наличие, рассчитают стоимость доставки до вашего региона и при необходимости подготовят коммерческое предложение с учётом НДС.

Платформа AS-4125GS-TNRT: что внутри шасси

Конфигурация собрана на GPU-платформе Supermicro AS-4125GS-TNRT. Ниже — параметры самого шасси по спецификации производителя: они определяют, что можно доустановить и какие требования сервер предъявляет к стойке.

Встроенная сеть здесь — два порта 10GbE. Для кластерных задач и быстрого доступа к СХД в свободный слот PCIe 5.0 x16 обычно устанавливают адаптер 200/400 GbE или InfiniBand: при восьми GPU это основной способ масштабироваться за пределы одного узла.

Какие модели ИИ поместятся в 1128 ГБ видеопамяти

Оценка по объёму весов (параметры × байт на параметр: FP16/BF16 — 2, FP8/INT8 — 1, INT4 — около 0,5). Сверху нужно оставить запас под KV-кэш (контекст) и активации: чем длиннее контекст и больше одновременных запросов, тем больше запас.

Практические моменты:

• H200 (архитектура Hopper) аппаратно поддерживает FP8, поэтому модели, опубликованные в FP8, запускаются без пересчёта в FP16. Этого не умеют карты поколения Ampere.
• Восемь GPU — степень двойки, что удобно для тензорного параллелизма: число карт делит число голов внимания большинства моделей. NVLink Bridge соединяет карты парами (или группами), поэтому для максимальной скорости тензорный параллелизм лучше выстраивать внутри связанных групп (TP=2 или TP=4); при TP=8 часть обмена идёт по PCIe 5.0.

Питание, охлаждение и размещение

Пиковое потребление этой конфигурации можно оценить по паспортным значениям:

• Электропитание. Четыре блока по 2000 Вт при номинале 230–240 В дают 8 кВт суммарно, но источник производителя указывает схему резервирования и как «2+2 или 3+1 в зависимости от конфигурации», и как «3+1». При схеме 3+1 для нагрузки доступны три блока, то есть около 6 кВт, — это на уровне расчётного пика полностью загруженных восьми GPU. Для работы с полным резервом мощность GPU можно ограничить программно либо уточнить схему питания при заказе. Блоки следует подключать к двум независимым линиям (PDU A и PDU B) на 200–240 В; на 100–127 В блок отдаёт лишь 1000 Вт.
• Тепло. 6,1–6,3 кВт — это примерно 20,8–21,5 тыс. BTU/ч (кВт × 3412), которые нужно отвести системой кондиционирования. Охлаждение сервера воздушное, температура на входе — 10–35 °C.
• Стойка. 4U, глубина шасси 737 мм, вес около 30 кг нетто (45,3 кг в упаковке). Нужна стойка глубиной от 1000 мм и монтаж на рельсы. Данных производителя о требованиях к охлаждению стойки целиком нет, поэтому плотность размещения нескольких таких серверов в одной стойке считают по расчётной мощности ряда.

Сравнение с соседними конфигурациями

Эта конфигурация — вариант для тех, кому нужны 1128 ГБ видеопамяти в 4U на платформе AMD EPYC, например для моделей масштаба DeepSeek-V3 в FP8. Версия с H100 вдвое дешевле и подходит, если хватает 640 ГБ и моделей до класса 405B в FP8 на всех картах; серверы на Intel Xeon 6 и платформе GIGABYTE дают тот же объём видеопамяти при другой CPU-платформе.

Частые вопросы

Можно ли расширить память и добавить накопители? Платформа имеет 24 слота DIMM и поддерживает до 6 ТБ DDR5 ECC RDIMM; сейчас установлено 2048 ГБ. Накопителей по умолчанию шесть отсеков (2 SATA + 4 NVMe) плюс один слот M.2 на плате. Свободные слоты PCIe 5.0 x16 позволяют добавить сетевые адаптеры или HBA.

Связаны ли GPU через NVLink? Платформа допускает опциональные NVLink Bridge (для карт NVIDIA) между GPU; без мостов обмен идёт по PCIe 5.0 x16. Сведений о NVSwitch у производителя нет. Состав мостов в конкретной комплектации уточняется при заказе.

Какие процессоры поддерживает платформа? AMD EPYC 9004 и 9005 в сокете SP5, до 160 ядер и до 400 Вт TDP на процессор. С EPYC 9004 память работает на 4800 MT/s, с EPYC 9005 — на 6000 MT/s.

Какую ОС и драйверы использовать? Для задач ИИ обычно ставят Ubuntu Server LTS или RHEL-совместимый дистрибутив, драйвер NVIDIA для дата-центров и CUDA. Поверх них работают PyTorch, vLLM, TensorRT-LLM и NVIDIA Triton. Управление сервером доступно через BMC (IPMI) и утилиты Supermicro.

Условия гарантии описаны на странице «Гарантия», способы и сроки доставки — на странице «Доставка».

Характеристики