Купить сервер Supermicro 4028GR-TR: 6× AMD Radeon AI PRO R9700 32GB + 2× Xeon E5-2697Av4 — СервакМастер

Supermicro 4028GR-TR с 6× Radeon AI PRO R9700 32GB — профессиональный GPU-сервер для AI-задач

Интернет-магазин СервакМастер предлагает приобрести 4U-сервер Supermicro 4028GR-TR в комплектации с шестью видеоускорителями AMD Radeon AI PRO R9700 (по 32 ГБ GDDR6 каждый) и двумя процессорами Intel Xeon E5-2697Av4. Конфигурация рассчитана на организации, которым требуется реальная вычислительная мощь для работы с нейронными сетями, языковыми моделями и аналитическими пайплайнами.

Суммарный объём видеопамяти — 192 ГБ GDDR6 — позволяет загружать крупные модели целиком в VRAM, не прибегая к постоянной подгрузке весов с диска. Это напрямую сказывается на времени отклика при продакшен-нагрузке и снижает задержки инференса до минимума.

Что делает эту конфигурацию привлекательной

• 6× AMD Radeon AI PRO R9700, 32 ГБ GDDR6 — совокупно 192 ГБ VRAM; достаточно для моделей на 70B+ параметров в full precision или для нескольких параллельных задач
• 2× Intel Xeon E5-2697Av4 — 16 ядер / 32 потока каждый, итого 32 физических ядра и 64 логических; Turbo до 3,6 ГГц
• 128 ГБ DDR4 ECC REG — регистровая память с коррекцией ошибок для стабильной круглосуточной работы
• Форм-фактор 4U — стандартное стоечное исполнение, эффективная система охлаждения при высокой тепловыделяющей нагрузке
• Платформа Supermicro — надёжная корпоративная база с IPMI 2.0 и выделенным управляющим портом

Сценарии использования

Инференс LLM и мультимодальных моделей

192 ГБ суммарной VRAM открывают возможность запуска больших языковых моделей непосредственно на GPU без квантования или с минимальным снижением точности. Шесть видеокарт поддерживают tensor parallelism, что позволяет распределять модели ещё большего размера между несколькими устройствами. AMD ROCm обеспечивает совместимость с PyTorch, vLLM и другими популярными фреймворками вывода.

Файн-тюнинг и дообучение моделей

Шесть GPU — достаточная база для полноценного обучения и дообучения: LoRA, QLoRA, supervised fine-tuning на корпоративных датасетах. Высокая пропускная способность GDDR6 сокращает время одной итерации и ускоряет сходимость при работе с большими батчами.

RAG-системы и векторный поиск

Комбинация 128 ГБ системной RAM и 192 ГБ VRAM позволяет размещать векторные индексы и embedding-модели целиком в памяти. Поиск по индексу выполняется с минимальной задержкой — критичное требование для продакшен RAG-пайплайнов, где скорость извлечения контекста определяет качество итогового ответа.

Аналитика данных и научные вычисления

Сервер справляется с ресурсоёмкими аналитическими задачами: GPU-ускоренная обработка табличных данных (RAPIDS / ROCm-аналоги), обучение ML-моделей на объёмных выборках, рендеринг и визуализация результатов симуляций. Процессоры Xeon E5-2697Av4 берут на себя CPU-часть пайплайна, не становясь узким местом.

Техническая платформа: Supermicro 4028GR-TR

Шасси 4028GR-TR изначально спроектировано под плотное размещение видеоускорителей. Система охлаждения обеспечивает устойчивый отвод тепла при длительной работе под нагрузкой; горячий воздух отводится через заднюю панель, что упрощает интеграцию в дата-центры с разделением горячего и холодного коридоров.

Материнская плата поддерживает:

• два сокета LGA 2011-3 (Intel Xeon E5 v4)
• до 1,5 ТБ DDR4 ECC REG при полном заполнении слотов
• IPMI 2.0 с выделенным сетевым интерфейсом управления
• несколько слотов PCIe 3.0 x16 для подключения GPU через райзеры

Покупка в СервакМастер: что важно знать

Каждая единица оборудования в СервакМастер проходит многоэтапную проверку перед отправкой: тестируются все шесть GPU, модули оперативной памяти, оба процессора и дисковые контроллеры. Статус «Б/У» означает подержанное происхождение, но не снижение требований к качеству — работоспособность и комплектность гарантированы.

• Гарантия 1 год с заменой неисправных компонентов
• Доставка по всей России — СДЭК и другие транспортные компании
• Полное тестирование и документирование результатов перед отправкой
• Консультация по подбору конфигурации под конкретную задачу и бюджет

Если вам нужно сравнить несколько конфигураций или выбрать оптимальный AI-сервер для вашего проекта — обратитесь к специалистам СервакМастер: поможем подобрать решение, которое окупится в реальных задачах.

Платформа 4028GR-TR: что внутри шасси

Конфигурация собрана на GPU-платформе Supermicro SuperServer 4028GR-TR. Ниже — параметры самого шасси по данным производителя: они определяют, что можно доустановить и какие требования сервер предъявляет к стойке и питанию.

Практические замечания:

• Сеть только гигабитная. Для связи с хранилищем или другими узлами нужен отдельный адаптер 25/100 GbE или InfiniBand. Свободные слоты для него есть: платформа рассчитана на 8 двухслотовых карт, а в этой конфигурации их шесть.
• Шина PCIe 3.0. Все слоты под GPU работают по PCIe 3.0 x16. В данных производителя нет сведений о NVLink, NVSwitch или Infinity Fabric, поэтому обмен между картами идёт через PCIe.
• Список GPU у производителя устарел. На странице Supermicro перечислены карты серий Tesla K и M и Xeon Phi, а Radeon AI PRO R9700 в нём не указан: совместимость этой модели источником не подтверждена. Конкретные условия по установленным картам уточняйте у специалистов магазина.

Какие модели ИИ поместятся в 192 ГБ видеопамяти

Оценка по объёму весов: параметры × байт на параметр (FP16/BF16 — 2, INT8 — 1, INT4 — около 0,5). Сверху нужен запас под KV-кэш (контекст) и активации — чем длиннее контекст и больше одновременных запросов, тем он больше. Каждая карта несёт 32 ГБ, а модель, разнесённая по нескольким картам, не может занять больше суммы их памяти.

Практические моменты:

• Шесть GPU неудобны для тензорного параллелизма. В vLLM и похожих движках число карт в тензорном параллелизме должно делить число голов внимания модели, а 6 подходит редко. Обычно берут 4 карты (128 ГБ суммарно, этого хватает для 70B в INT8) либо схему «2 карты тензорно × 3 этапа конвейера» (TP=2, PP=3), которая задействует все шесть. Модель 70B в FP16 на четыре карты не помещается: 140 ГБ весов больше, чем 128 ГБ.
• Форматы. Для карт AMD со стеком ROCm основной путь — FP16/BF16 и квантование INT8/INT4 (AWQ, GPTQ, GGUF). Поддержку FP8 на конкретной модели и версии ROCm проверяйте отдельно, не рассчитывая на неё заранее.
• Скорость. Карты связаны через PCIe 3.0, поэтому при разнесении одной модели на несколько GPU межкарточный обмен медленнее, чем в серверах с NVLink или Infinity Fabric. Для максимальной пропускной способности удобнее запускать независимые копии моделей меньшего размера на отдельных картах.

Питание, охлаждение и размещение

Пиковое потребление оценивается по паспортным значениям TDP компонентов:

• Электропитание. Четыре блока по 1600 Вт работают по схеме 2+2: при потере половины блоков или одного из вводов оставшихся двух хватает на 3200 Вт, то есть с запасом. Номинальные 1600 Вт блок отдаёт только при 200–240 В, при 100–127 В — всего 1000 Вт. Поэтому подключать сервер нужно к сети 200–240 В, по два блока на независимые линии (PDU A и PDU B).
• Тепло. 2,4–2,5 кВт под нагрузкой соответствует примерно 8,2–8,5 тыс. BTU/ч (кВт × 3412), которые нужно отвести системой кондиционирования. Допустимая температура на входе — 10–35 °C. Охлаждение воздушное, горячий воздух выходит через заднюю панель.
• Стойка. Высота 4U, глубина шасси 737 мм, вес около 30 кг без комплектующих (с шестью GPU и накопителями — больше). Понадобится стойка достаточной глубины и монтаж на рельсы; тяжёлое оборудование лучше ставить в нижнюю часть стойки. Данных производителя о нагрузке на стойку и требованиях к охлаждению стойки нет.
• Шум. Восемь вентиляторов по 92 мм на высоких оборотах создают серьёзный шум: сервер предназначен для серверной комнаты или машинного зала, а не для офиса.

Сравнение с соседними конфигурациями

Эта конфигурация даёт наибольший объём видеопамяти среди перечисленных (192 ГБ), причём на той же платформе, что и вариант с Tesla P100, но на более современных картах R9700. Вариант на P100 — самый дешёвый способ получить много слотов под GPU, если важна цена, а не объём памяти и современные форматы. Конфигурации на 4 и 2 карты подойдут, если хватает 128 или 64 ГБ видеопамяти и нужен процессор на EPYC.

Частые вопросы

Можно ли доустановить ещё GPU? Платформа рассчитана на 8 двухслотовых карт (8 слотов PCIe 3.0 x16), в этой конфигурации установлено шесть. Совместимость конкретной дополнительной карты с шасси и по питанию обсуждается при заказе. Официальный список GPU у Supermicro для этой платформы устарел и R9700 не включает.

Связаны ли карты между собой через специальный интерконнект? В данных производителя NVLink, NVSwitch и Infinity Fabric для этой платформы не указаны. Обмен между картами идёт через шину PCIe 3.0 x16.

Какие процессоры и сколько памяти поддерживает платформа? Два сокета LGA 2011 под Xeon E5-2600 v4/v3 до 160 Вт TDP, до 22 ядер на процессор. Слотов памяти 24, максимум 1,5 ТБ RDIMM или 3 ТБ 3DS LRDIMM; DDR4-2400 и максимальный объём требуют BIOS 2.0 и новее. Установленные 128 ГБ можно наращивать.

Какие накопители и какое управление доступны? 24 отсека 2,5" hot-swap с бэкплейном SAS3/SATA3 и 10 портов SATA3 на плате с RAID 0/1/5/10. Удалённое управление — IPMI 2.0 с KVM-over-LAN, virtual media и отдельным сетевым портом.

Условия гарантии описаны на странице «Гарантия», способы и сроки доставки — на странице «Доставка».

Характеристики