Купить Supermicro 2029GP-TR: 6× AMD Instinct MI100 32GB + 2× Intel Xeon Platinum 8260 | СервакМастер

Supermicro 2029GP-TR: шесть MI100 в компактном 2U для реальных AI-задач

Supermicro 2029GP-TR — двухпроцессорный сервер форм-фактора 2U, изначально спроектированный под плотные GPU-конфигурации для задач машинного обучения и высокопроизводительных вычислений. В СервакМастер представлена сборка с шестью ускорителями AMD Instinct MI100 32GB и двумя процессорами Intel Xeon Platinum 8260, прошедшая полную техническую диагностику. Это готовое решение для команд, которым нужна серьёзная вычислительная мощность без длительного ожидания поставки нового оборудования.

Суммарный объём видеопамяти составляет 192 ГБ HBM2 — достаточно, чтобы удерживать в памяти GPU крупные языковые модели, работать с диффузионными сетями или запускать параллельные HPC-симуляции без постоянной выгрузки данных между хостом и ускорителями.

Конфигурация и ключевые характеристики

Ускорители AMD Instinct MI100 — 6 штук, 192 ГБ VRAM суммарно

Каждый MI100 несёт 32 ГБ памяти HBM2 с пропускной способностью свыше 1,2 ТБ/с. Архитектура CDNA первого поколения оптимизирована для матричных вычислений: аппаратная поддержка форматов FP64, FP32, FP16 и BF16 позволяет гибко управлять точностью в зависимости от задачи. Шесть таких ускорителей в одной системе дают возможность обучать крупные модели без разбивки на несколько серверов или прибегать к гибридному использованию нескольких GPU для инференса.

Процессоры Intel Xeon Platinum 8260 — 2 сокета

Intel Xeon Platinum 8260 — 24-ядерный процессор архитектуры Cascade Lake с базовой тактовой частотой 2,4 ГГц и поддержкой Turbo Boost. Два таких CPU в конфигурации NUMA обеспечивают достаточную пропускную способность PCIe-шин и вычислительных ресурсов CPU для предобработки данных, загрузки батчей и управления вводом-выводом при высокой GPU-нагрузке. Поддержка набора инструкций AVX-512 полезна при выполнении численных вычислений непосредственно на CPU.

Оперативная память — 512 ГБ DDR4 ECC REG

512 ГБ регистровой памяти с коррекцией ошибок обеспечивают надёжное хранение датасетов и промежуточных результатов прямо в RAM, снижая зависимость от дисковой подсистемы при работе с объёмными обучающими выборками. Платформа поддерживает режим DDR4-2933, что ускоряет передачу данных между CPU и памятью.

Для каких задач подходит эта система

Обучение и дообучение нейросетей. Шесть MI100 с общим VRAM 192 ГБ позволяют обучать модели с числом параметров от нескольких миллиардов до десятков миллиардов без необходимости модельного параллелизма на отдельные серверы. Поддерживаются фреймворки PyTorch и TensorFlow через стек ROCm.

Инференс в производственной среде. Высокая пропускная способность памяти HBM2 и распределение нагрузки между шестью ускорителями обеспечивают стабильную обработку запросов с низкой задержкой — что важно при развёртывании conversational AI или рекомендательных систем.

RAG-системы и векторный поиск. Параллельная обработка эмбеддингов на нескольких GPU сокращает время ответа при масштабных векторных поисках в базах знаний. Объём VRAM достаточен для хранения в памяти крупных индексов без выгрузки на диск.

Научные HPC-расчёты. Молекулярная динамика, расчёты методом конечных элементов, климатическое моделирование и симуляции Монте-Карло — задачи, где FP64-производительность MI100 и объём памяти HBM2 оказываются критически важными.

Анализ данных с GPU-ускорением. Часть аналитических конвейеров можно перенести с CPU на GPU через ROCm-совместимые библиотеки. Учтите, что RAPIDS (cuDF, cuML) рассчитан на CUDA и на ускорителях AMD штатно не работает.

Рендеринг и визуализация. Шесть параллельных ускорителей подходят для распределённого рендеринга 3D-сцен и постобработки графических данных в задачах архитектурной визуализации и VFX.

Платформа Supermicro 2029GP-TR: конструктивные особенности

Шасси 2029GP-TR поддерживает двухпроцессорную конфигурацию Intel Xeon Scalable второго поколения (сокет LGA 3647). Система рассчитана на шесть двухслотовых GPU-ускорителей, что соответствует установленным MI100. Блоки питания выполнены по схеме горячей замены с резервированием, что обеспечивает непрерывную работу при отказе одного из них. Активная система охлаждения с управляемыми вентиляторами поддерживает температурный режим всех шести ускорителей даже при длительной полной нагрузке.

Компактный форм-фактор 2U позволяет разместить несколько таких серверов в стандартной стойке 42U и масштабировать вычислительный кластер без занятия избыточного пространства в датацентре.

Платформа Supermicro 2029GP-TR: что внутри

Ниже параметры самого шасси по данным производителя и дистрибьюторов. Они определяют, что можно доустановить и какие требования сервер предъявляет к стойке и питанию.

Два практических замечания. Во-первых, встроенной сети данных у платформы нет: для связи с хранилищем или другими узлами понадобится модуль SIOM или адаптер в единственный свободный слот PCIe 3.0 x8 (низкопрофильный), поскольку остальные шесть слотов x16 заняты ускорителями. Во-вторых, слоты работают по PCIe 3.0: карты MI100 рассчитаны на PCIe 4.0 и в этой платформе будут работать на скорости Gen3, что стоит учитывать в задачах с интенсивным обменом между хостом и GPU. Страница производителя датируется 2019 годом и MI100 в списке поддерживаемых карт не называет (там указаны NVIDIA V100, M10, T4, Quadro RTX), поэтому работоспособность именно этой сборки подтверждается при заказе.

Какие модели ИИ поместятся в 192 ГБ видеопамяти

Оценка по объёму весов: параметры × байт на параметр (FP16/BF16 — 2, INT8 — 1, INT4 — около 0,5). Сверху нужно оставить запас под KV-кэш и активации. В таблице на каждый MI100 приходится 32 ГБ.

Что важно знать:

• Аппаратного FP8 у MI100 нет. Архитектура CDNA первого поколения работает с FP32, FP16, BF16 и INT8. Модели, выпущенные в FP8, запускают в BF16 или квантуют в INT8/INT4. Поддержка конкретных схем квантования (AWQ, GPTQ и др.) зависит от версии ROCm и инференс-движка, её стоит проверить заранее.
• Шесть GPU неудобны для тензорного параллелизма. Число карт в тензорном параллелизме должно делить число голов внимания модели, и 6 подходит редко. Обычно используют 4 карты (TP=4) или схему «2 карты тензорно × 3 этапа конвейера» (TP=2, PP=3), которая задействует все шесть.
• Связь между картами. Платформа соединяет GPU через PCIe-коммутатор; данных о фабрике Infinity Fabric или NVLink на уровне платформы в спецификации нет, поэтому межкарточный обмен рассчитывайте на PCIe.

Питание, охлаждение и размещение

Пиковое потребление оценено по паспортному TDP компонентов:

• Электропитание. Два блока по 2000 Вт работают по схеме 1+1. Номинал 2000 Вт достигается только при 230–240 В (при 200–220 В — 1800 Вт, при 100–120 В — 1000 Вт). Расчётные 2,4–2,5 кВт превышают мощность одного блока, поэтому под полной нагрузкой резервирование фактически не работает: при отказе одного блока сервер может уйти в ограничение или отключиться. Подключайте блоки к двум независимым линиям (PDU A и PDU B) на 200–240 В, а при долгой полной нагрузке на GPU заранее ограничивайте их мощность.
• Тепло. 2,4–2,5 кВт соответствуют примерно 8,2–8,5 тыс. BTU/ч (кВт × 3412), которые нужно отвести кондиционированием. Допустимая температура на входе — 10–35 °C, влажность 8–90% при работе.
• Стойка. Высота 2U, глубина шасси по данным производителя 787 мм (в сводке реселлера указана 630 мм), нетто-вес 17,9 кг без учёта установленных ускорителей. Закладывайте стойку глубиной не менее 1000 мм и монтаж на рельсы, а также место для кабелей сзади.

Сравнение с соседними конфигурациями

Эта конфигурация даёт больше всего видеопамяти в 2U среди сравниваемых: 192 ГБ хватает для 70B-моделей в FP16 и для нескольких параллельных экземпляров моделей поменьше. Вариант с V100 дешевле почти вдвое и подойдёт тем, кому важен стек CUDA и достаточно 96 ГБ, а 747BTQ с четырьмя MI100 выбирают, когда хватает 128 ГБ и нужен более доступный вход в экосистему ROCm.

Частые вопросы

Можно ли доустановить ещё GPU? Платформа рассчитана максимум на шесть карт PCIe 3.0 x16 двойной или одинарной ширины, и в этой сборке все шесть слотов заняты. Свободным остаётся слот PCIe 3.0 x8 (низкопрофильный) — под сетевой адаптер или контроллер.

Какие процессоры совместимы с платформой? Два сокета LGA 3647: Intel Xeon Scalable и 2nd Gen Xeon Scalable (Skylake/Cascade Lake) до 28 ядер и TDP до 205 Вт. Для процессоров 2nd Gen требуется BIOS версии 3.2 или новее.

Как подключены карты и что с сетью? GPU подключены к процессорам через коммутатор PCIe Gen3 x16. Встроенной сети данных у платформы нет, для кластера или быстрого доступа к хранилищу ставят адаптер в свободный слот или модуль SIOM. Данных о NVLink/NVSwitch/Infinity Fabric на уровне платформы в спецификации нет.

Как управлять сервером удалённо? Через BMC ASPEED AST2500: IPMI 2.0, KVM over LAN, virtual media и выделенный сетевой порт RJ45. Для мониторинга доступны Supermicro SSM, SPM, SUM и SuperDoctor 5. Для задач ИИ на ускорителях AMD обычно ставят Linux и стек ROCm с PyTorch.

Условия гарантии описаны на странице «Гарантия», способы и сроки доставки — на странице «Доставка».

Почему стоит приобрести этот сервер в СервакМастер

В СервакМастер каждая единица оборудования в категории Б/У проходит обязательный цикл диагностики: стресс-тест всех шести ускорителей, проверку оперативной памяти и стабильности работы процессоров под нагрузкой. Вы получаете систему, готовую к немедленному вводу в эксплуатацию.

• Гарантия 1 год с заменой неисправных компонентов
• Доставка по всей России через СДЭК и другие транспортные службы
• Полная диагностика под нагрузкой перед отправкой
• Консультация по выбору конфигурации и совместимости с вашей инфраструктурой

Если вы рассматриваете несколько вариантов AI-серверов или вам необходимо сравнить Supermicro 2029GP-TR с альтернативными платформами по соотношению VRAM/цена, специалисты СервакМастер готовы помочь с подбором оптимального решения.

Характеристики