Supermicro 4124GS-TNR: 6× NVIDIA A100 40GB + 2× AMD EPYC 7513, 1 ТБ RAM — купить в СервакМастер

Supermicro 4124GS-TNR — высокопроизводительный 4U-сервер для AI и HPC

Supermicro 4124GS-TNR представляет собой профессиональный серверный узел корпоративного класса в форм-факторе 4U, созданный для задач, где вычислительная мощность имеет первостепенное значение. Платформа объединяет шесть ускорителей NVIDIA A100 40GB с двумя процессорами AMD EPYC 7513 и терабайтом оперативной памяти — именно такая конфигурация позволяет работать с крупнейшими нейронными сетями, запускать полноценные HPC-симуляции и обслуживать высоконагруженные AI-пайплайны в production-среде. В каталоге СервакМастер этот сервер доступен новым, с официальной гарантией и полным пакетом документов.

Состав комплектации и технические характеристики

6× NVIDIA A100 40GB HBM2e: суммарные 240 ГБ видеопамяти

Шесть ускорителей NVIDIA A100 на архитектуре Ampere формируют основу вычислительного потенциала этой платформы. Каждая карта несёт 40 ГБ памяти стандарта HBM2e с высокой пропускной способностью — это важно не только для объёма, но и для скорости доступа к параметрам модели во время обучения и инференса.

Ключевые показатели производительности одного A100 40GB:

• FP64: до 9,7 TFLOPS — полноценная поддержка двойной точности для научных расчётов
• FP32: до 19,5 TFLOPS
• TF32 Tensor Core: до 156 TFLOPS
• FP16 / BF16 Tensor Core: до 312 TFLOPS
• INT8 Tensor Core: до 624 TOPS

Шесть ускорителей в совокупности дают около 3,7 PetaOPS в режиме INT8 (6 × 624 TOPS без учёта разреженности) и 1,87 PFLOPS в FP16/BF16 на тензорных ядрах — производительность, сопоставимая с небольшим вычислительным кластером. Суммарный объём видеопамяти 240 ГБ позволяет размещать целые языковые модели с десятками миллиардов параметров без выгрузки данных в RAM.

2× AMD EPYC 7513: 64 ядра для управления данными и параллельных задач

Два процессора AMD EPYC 7513 (архитектура Milan, техпроцесс 7 нм) образуют процессорную подсистему: в двухпроцессорной конфигурации доступны 64 физических ядра и 128 логических потоков, работающих на базовой частоте 2,6 ГГц с Boost до 3,65 ГГц.

Параметры процессорной подсистемы:

• 16 каналов DDR4 суммарно (по 8 на сокет) — широкая полоса для обмена данными с RAM
• 256 линий PCIe 4.0 (по 128 на сокет) — прямое высокоскоростное подключение GPU
• NUMA-топология с оптимальным распределением задач между двумя сокетами и шестью ускорителями

Процессорные ресурсы незаменимы для препроцессинга и аугментации данных, оркестрации GPU-заданий, работы векторных баз данных и поддержки инфраструктуры (сети, хранилища, мониторинг).

Оперативная память — 1024 ГБ DDR4 ECC REG

Сервер оснащён 1 ТБ оперативной памяти с поддержкой коррекции ошибок (ECC) в буферизованном исполнении (REG/RDIMM). Такой объём RAM решает несколько практических проблем сразу:

• Датасеты целиком помещаются в память, исключая медленный доступ к диску на горячих итерациях обучения
• Возможен одновременный запуск нескольких изолированных заданий без конкуренции за ресурсы
• Векторные индексы и встраиваемые модели для RAG-систем остаются постоянно в памяти

ECC-коррекция критически важна при длительных вычислениях: одиночная битовая ошибка без ECC может привести к потере многочасовой или многосуточной работы GPU-кластера.

Форм-фактор и конструктивные особенности

Корпус Supermicro 4124GS-TNR выполнен в форм-факторе 4U для монтажа в стандартную 19-дюймовую стойку. Шасси рассчитано на размещение шести двухслотовых GPU одновременно и оснащено многозонной системой принудительного охлаждения с регулируемой скоростью вентиляторов. Это позволяет поддерживать стабильный тепловой режим при длительной нагрузке ускорителей, близкой к 100%. Соединение GPU через высокоскоростную шину PCIe 4.0 обеспечивает минимальные задержки при межкарточном обмене данными.

Области применения

Обучение и дообучение нейронных сетей

240 ГБ суммарной VRAM открывают возможность обучать «с нуля» и проводить fine-tuning больших языковых моделей (LLM), диффузионных генеративных моделей, трансформерных архитектур для NLP и мультимодальных задач — без принудительной сегментации модели или CPU offloading.

Производственный инференс

Высокая пропускная способность памяти HBM2e и поддержка квантизации INT8/FP16 делают платформу эффективной для production-деплоя крупных моделей с требованиями к задержке ответа. Несколько ускорителей позволяют одновременно обслуживать множество запросов с независимой балансировкой нагрузки.

RAG-системы и семантический поиск

Сочетание 1 ТБ RAM и 240 ГБ VRAM даёт возможность держать в памяти векторную базу, embedding-модель и LLM-ядро одновременно, без перезагрузок и вытеснения компонентов. Это напрямую снижает задержку ответа в системах Retrieval-Augmented Generation.

Научные и инженерные расчёты (HPC)

Полноценная поддержка FP64 на уровне 9,7 TFLOPS на каждый ускоритель делает сервер пригодным для молекулярной динамики, CFD-симуляций, климатического моделирования, квантовой химии и других дисциплин, где двойная точность является обязательным требованием.

Ускоренный анализ данных

Библиотеки RAPIDS (cuDF, cuML, cuGraph) позволяют использовать GPU для обработки табличных данных, построения признаков и машинного обучения на данных промышленного масштаба. Процессоры EPYC 7513 одновременно обеспечивают быструю параллельную загрузку и трансформацию данных.

Сводная таблица характеристик

Платформа AS-4124GS-TNR: что внутри шасси

Конфигурация собрана на GPU-платформе Supermicro AS-4124GS-TNR. Ниже — параметры самого шасси по спецификации производителя: они определяют, что можно доустановить и какие требования сервер предъявляет к стойке.

Встроенной сети здесь только 1 GbE — для обмена данными между узлами кластера или быстрого доступа к СХД в один из свободных слотов PCIe 4.0 x16 обычно ставят адаптер 25/100 GbE или InfiniBand.

Какие модели ИИ поместятся в 240 ГБ видеопамяти

Оценка по объёму весов модели; сверху нужно оставить запас под KV-кэш (контекст) и активации — тем больше, чем длиннее контекст и больше одновременных запросов.

Два практических момента:

• A100 (архитектура Ampere) не поддерживает FP8 аппаратно. Модели, опубликованные в FP8, запускают в FP16/BF16 или квантуют в INT8/INT4 (AWQ, GPTQ).
• Шесть GPU неудобны для тензорного параллелизма. В vLLM и похожих движках число карт в тензорном параллелизме должно делить число голов внимания модели, а 6 подходит редко. Обычно используют 4 карты в тензорном параллелизме либо схему «2 карты тензорно × 3 этапа конвейера» (TP=2, PP=3) — так задействуются все шесть.

Питание, охлаждение и размещение в стойке

Пиковое потребление этой конфигурации можно оценить так:

• Электропитание. Четыре блока по 2000 Вт работают по схеме 2+2: даже если один ввод пропадёт, двух оставшихся блоков хватает с запасом. Блоки рассчитаны на 200–240 В. Правильно подключать их к двум независимым линиям (PDU A и PDU B) по два блока на каждую.
• Тепло. 2,2–2,3 кВт под нагрузкой — это около 7,5–7,8 тыс. BTU/ч, которые нужно отвести кондиционированием серверной. Допустимая температура на входе — 10–35 °C.
• Стойка. 4U, глубина шасси 737 мм, вес около 30 кг. Нужна стойка глубиной от 1000 мм и монтаж на рельсы. Ставить сервер лучше в нижнюю половину стойки.

Сравнение с соседними конфигурациями

Эта конфигурация — самый доступный способ получить больше 200 ГБ видеопамяти в одном сервере. Этого достаточно для 70B-моделей в FP16 и для обучения средних моделей. Если важна поддержка FP8 или нужно запускать модели масштаба DeepSeek-V3, смотрите конфигурации на H100: та же платформа 4124GS-TNR с H100 или 4125GS-TNRT на EPYC 9004.

Частые вопросы

Можно ли доустановить ещё два GPU? Платформа рассчитана на восемь двухслотовых ускорителей. Даже с восемью A100 расчётное потребление остаётся в пределах двух блоков питания по 2000 Вт. Дооснащение и совместимость конкретных карт обсуждаются при заказе.

Связаны ли карты через NVLink? В PCIe-исполнении A100 обмениваются данными через шину PCIe 4.0 x16. Пары карт можно дополнительно объединить NVLink-мостом. Для инференса и обучения с параллелизмом по данным чаще всего хватает и PCIe.

Можно ли поставить более мощные процессоры? Да. Платформа поддерживает EPYC 7002/7003 с TDP до 280 Вт при воздушном охлаждении, например 64-ядерные модели серии 7003.

Какую ОС и драйверы использовать? Для задач ИИ обычно ставят Ubuntu Server LTS или RHEL-совместимый дистрибутив, драйвер NVIDIA для дата-центров и CUDA. Поверх них работают PyTorch, vLLM, TensorRT-LLM и NVIDIA Triton.

Условия гарантии описаны на странице «Гарантия», способы и сроки доставки — на странице «Доставка».

Почему стоит купить в СервакМастер

• Новое оборудование с заводской гарантией и всеми необходимыми документами
• Предпродажное тестирование: стресс-тест GPU, диагностика памяти и системы охлаждения перед отправкой
• Доставка по России: работаем с Москвой, Санкт-Петербургом и регионами
• Корпоративное оформление: безналичный расчёт, договор, закрывающие документы с НДС
• Технические консультации: специалисты помогут подобрать конфигурацию под конкретные задачи

Для получения коммерческого предложения или технической консультации обратитесь к нам через форму на сайте СервакМастер.

Характеристики