Купить Supermicro AS-2024US-TRT: 3× NVIDIA A100 40GB + 2× AMD EPYC 7713, 1 ТБ RAM — «СервакМастер»

Что представляет собой Supermicro AS-2024US-TRT

Supermicro AS-2024US-TRT — двухпроцессорный сервер форм-фактора 2U, построенный на платформе AMD EPYC Milan и укомплектованный тремя ускорителями NVIDIA A100 40GB. Машина спроектирована под интенсивные вычислительные нагрузки: обучение нейронных сетей, дообучение крупных языковых моделей, высокопроизводительные научные расчёты (HPC) и построение RAG-систем корпоративного класса. В каталоге «СервакМастер» сервер продаётся в состоянии б/у — каждый экземпляр проходит обязательное предпродажное тестирование перед отправкой покупателю.

Два процессора AMD EPYC 7713 — вычислительный фундамент

Процессорная подсистема построена на двух AMD EPYC 7713 серии Milan. Каждый чип содержит 64 ядра и 128 потоков; в двухсокетной конфигурации доступно 128 физических ядер и 256 аппаратных потоков. Такой ресурс позволяет параллельно выполнять предобработку датасетов, управление очередями задач и работу с многопоточными фреймворками — PyTorch, TensorFlow, JAX — без конкуренции за процессорное время между подготовительными и вычислительными этапами пайплайна.

Архитектура EPYC Milan поддерживает интерфейс PCIe 4.0, что вдвое увеличивает пропускную способность шины по сравнению с предыдущим поколением. Это напрямую снижает задержки при обмене данными между CPU и GPU — критически важный параметр при обучении на больших батчах.

Три ускорителя NVIDIA A100 40GB HBM2e

Производительность и память GPU

Сердцем конфигурации являются три ускорителя NVIDIA A100 с 40 ГБ видеопамяти HBM2e каждый. Суммарный объём VRAM составляет 120 ГБ. Архитектура Ampere обеспечивает ускоренное выполнение операций в форматах TF32, BF16, FP16 и INT8 — именно тех, которые используются при обучении и инференсе современных трансформерных и диффузионных моделей.

Технология Multi-Instance GPU (MIG)

A100 поддерживает режим MIG, позволяющий разделить физический ускоритель на до семи независимых виртуальных экземпляров с изолированными ресурсами вычислений и памяти. Это даёт возможность обслуживать несколько задач или клиентов одновременно без деградации производительности — особенно востребованный сценарий при построении multi-tenant инференс-инфраструктуры.

Межкарточный обмен данными

Ускорители обмениваются данными по шине PCIe 4.0 x16. Для A100 в PCIe-исполнении NVLink-мосты соединяют карты попарно; сведений о схеме NVLink в этой платформе у производителя нет, поэтому наличие мостов в конкретной сборке уточняйте при заказе. При тензорном или конвейерном параллелизме активации и градиенты передаются между картами, и пропускная способность этого обмена влияет на скорость обучения.

Задачи, для которых подходит этот сервер

• Инференс и дообучение LLM — 120 ГБ суммарной VRAM позволяют держать в памяти модели до 70 млрд параметров в INT8 и дообучать модели среднего размера методами LoRA/QLoRA; полное обучение с оптимизатором требует многократно больше памяти, чем занимают веса, поэтому для него подходят модели заметно меньшего размера;
• Промышленный инференс — MIG-режим и три физических ускорителя позволяют одновременно держать несколько независимых инстансов модели в памяти;
• RAG-системы и векторный поиск — высокая пропускная способность памяти HBM2e ускоряет вычисление эмбеддингов и поиск по векторным индексам;
• HPC и научные расчёты — нативная поддержка FP64 делает A100 пригодным для молекулярного моделирования, климатических симуляций и численных методов;
• Аналитика больших данных — 128 CPU-ядер в сочетании с 1 ТБ оперативной памяти обеспечивают быструю in-memory обработку крупных датафреймов без постоянного обращения к дисковому вводу-выводу.

Оперативная память: 1 ТБ DDR4 ECC Registered

Сервер укомплектован 1024 ГБ оперативной памяти стандарта DDR4 ECC Registered. Объём позволяет загружать крупные датасеты целиком — без необходимости в потоковой подаче из хранилища. Технология ECC обнаруживает и исправляет одиночные битовые ошибки в реальном времени, что принципиально важно при многочасовых тренировочных сессиях, где единственный сбой памяти способен обнулить часы вычислений.

Форм-фактор 2U и инфраструктурные особенности

Двухюнитовое шасси Supermicro размещается в любой стандартной стойке 19 дюймов. При этом конструкция рассчитана на высокотепловыделяющие GPU-конфигурации: система воздушного охлаждения с высокоскоростными вентиляторами и управлением их скоростью. Два блока питания с резервированием 1+1 позволяют серверу продолжать работу при отказе одного из них.

Платформа AS-2024US-TRT: что внутри шасси

Конфигурация собрана на платформе Supermicro AS-2024US-TRT (материнская плата Super H12DSU-iN, шасси CSE-829U2TS-R1K62P3-T). Ниже — параметры шасси по спецификации производителя: они определяют, что можно доустановить и какие требования сервер предъявляет к стойке.

Встроенные порты 10GbE подходят для подключения к СХД и коммутаторам корпоративного уровня; для кластерного обмена или быстрого доступа к хранилищу в свободные слоты PCIe 4.0 обычно ставят адаптер 25/100 GbE или InfiniBand. Отдельно отметим: по спецификации производителя платформа рассчитана на до двух двухслотовых GPU, поэтому схему установки трёх A100 в этой сборке уточняйте при заказе.

Какие модели ИИ поместятся в 120 ГБ видеопамяти

Оценка по объёму весов (параметры × байт на параметр); сверху нужно оставить запас под KV-кэш (контекст) и активации — тем больше, чем длиннее контекст и больше одновременных запросов.

Два практических момента:

• A100 (архитектура Ampere) не поддерживает FP8 аппаратно. Модели, опубликованные в FP8, запускают в FP16/BF16 или квантуют в INT8/INT4 (AWQ, GPTQ).
• Три GPU неудобны для тензорного параллелизма. В vLLM и похожих движках число карт в тензорном параллелизме должно делить число голов внимания модели, а 3 подходит редко. Обычно используют 2 карты в тензорном параллелизме, а третью занимают отдельной моделью, либо применяют конвейерный параллелизм (PP=3).

Питание, охлаждение и размещение

Пиковое потребление этой конфигурации можно оценить по паспортным TDP компонентов:

• Электропитание. Два блока по 1600 Вт работают по схеме 1+1. Важная деталь: 1600 Вт блок отдаёт только при 200–240 В, а при 100–127 В — всего 1000 Вт, чего для этой конфигурации недостаточно. Подключайте сервер к сети 220–240 В, лучше к двум независимым линиям (PDU A и PDU B) по одному блоку на каждую.
• Тепло. 1,5–1,6 кВт под нагрузкой — это около 5,1–5,5 тыс. BTU/ч (кВт × 3412), которые нужно отвести кондиционированием серверной. Рабочая температура на входе — 10–35 °C, влажность 8–90% без конденсата.
• Стойка. 2U, глубина шасси 723 мм, вес около 16,4 кг нетто. Нужна стойка достаточной глубины (с запасом под кабели) и монтаж на рельсы. Воздушное охлаждение требует свободных фронтальной и задней сторон.

Сравнение с соседними конфигурациями

Эта конфигурация — самый доступный по цене вход в сегмент серверов с несколькими A100 и объёмом памяти 120 ГБ в стойке 2U; подходит для инференса моделей до 70B в INT8 и дообучения. Если нужно больше видеопамяти и запас по масштабу — смотрите 4124GS-TNR на A100 (240 ГБ), а для FP8 и моделей крупнее — вариант на H100.

Частые вопросы

Можно ли расширить память и поставить другие процессоры? Да. Платформа имеет 32 слота DIMM и поддерживает до 8 ТБ DDR4-3200. Допускаются процессоры EPYC 7002/7003 с TDP до 280 Вт при воздушном охлаждении; для EPYC 7003 с 3D V-Cache требуется BIOS 2.3 и новее.

Какая сеть установлена и можно ли её ускорить? Встроены два порта 10GbE (Intel X710-AT2) и выделенный порт управления BMC 1GbE. Для более быстрых сетей используются свободные слоты PCIe 4.0.

Какие накопители можно поставить? По умолчанию 12 отсеков 3,5" hot-swap SATA; предусмотрены варианты с 4 NVMe-отсеками или SAS. Встроенного M.2 нет — он доступен через опциональные carrier-карты.

Как управлять сервером удалённо и какое ПО использовать? Есть IPMI 2.0 с KVM-over-LAN и virtual media — установка ОС возможна удалённо. Для задач ИИ обычно ставят Ubuntu Server LTS или RHEL-совместимый дистрибутив, драйвер NVIDIA для дата-центров и CUDA; поверх работают PyTorch, vLLM, TensorRT-LLM и NVIDIA Triton.

Условия гарантии описаны на странице «Гарантия», способы и сроки доставки — на странице «Доставка».

Почему стоит выбрать б/у A100-сервер в «СервакМастер»

• Нагрузочное тестирование перед продажей — проверяем производительность GPU под нагрузкой, сканируем оперативную память на ошибки, анализируем SMART-показатели всех накопителей;
• Гарантия 1 год с заменой компонентов — если в течение гарантийного срока выйдет из строя какая-либо деталь, мы заменим её за свой счёт;
• Доставка по всей России — отправляем через СДЭК и ведущие транспортные компании в любой регион страны;
• Техническая консультация — поможем подобрать оптимальную конфигурацию под конкретные задачи и бюджет ещё до оформления заказа.

Сводная таблица характеристик

Оформить заказ на Supermicro AS-2024US-TRT можно прямо сейчас через каталог «СервакМастер». По вопросам наличия, условий доставки и дополнительных опций обращайтесь через форму на сайте — ответим оперативно.

Характеристики