Сервер Supermicro AS-4124GO-NART+ с 8× NVIDIA A100 SXM 80GB (640 ГБ HBM2e)

Supermicro AS-4124GO-NART+ — восьмиGPU-узел на HGX A100 для ИИ и HPC

Supermicro AS-4124GO-NART+ — это 4U-платформа на базе NVIDIA HGX A100 с восемью ускорителями A100 в формате SXM. Каждый GPU несёт 80 ГБ памяти HBM2e, поэтому суммарно в узле доступно 640 ГБ видеопамяти. Ускорители объединены через NVLink v3 и NVSwitch, так что обмен данными между картами идёт внутри одного сервера, без выхода на сеть.

Вычислительную часть обеспечивают два процессора AMD EPYC 7002/7003 в сокете SP3. Такая конфигурация рассчитана на обучение и дообучение моделей, развёртывание больших языковых моделей, RAG-системы и научные расчёты, где важны плотная связка GPU и предсказуемое масштабирование в пределах одного узла.

Ключевые особенности

• HGX A100 8-GPU: восемь A100 SXM по 80 ГБ HBM2e, суммарно 640 ГБ VRAM.
• NVLink v3 и NVSwitch: быстрая связь между ускорителями для распределённого обучения и тензорного параллелизма.
• GPUDirect RDMA: заявлена топология сетевых адаптеров «1 к 1» с GPU, что полезно при обмене данными между узлами.
• Два AMD EPYC 7002/7003: Dual Socket SP3, TDP процессоров до 280 Вт.
• Память до 8 ТБ: DDR4-3200 ECC RDIMM/LRDIMM, 32 слота DIMM.
• NVMe-накопители: 6 фронтальных hot-swap 2.5" NVMe, опционально ещё 4 задних hot-swap 2.5" NVMe и 2 слота M.2 NVMe.

Характеристики

Для каких задач подходит

Сервер ориентирован на сценарии, где модели и данные не помещаются в одну-две видеокарты:

• обучение и дообучение больших языковых моделей с распределением по 4–8 GPU;
• инференс и serving: запас в 640 ГБ VRAM оставляет место под KV-cache, длинный контекст и параллельные сессии;
• RAG-системы и корпоративные ассистенты на локальных моделях;
• генерация изображений и видео с диффузионными моделями, где очереди удобно распараллеливать по картам;
• HPC и научные расчёты: по заявленным данным, совокупная мощность восьми A100 составляет 156 TFLOPS в FP64 Tensor Core и 4 992 TFLOPS в BF16/FP16 Tensor Core.

По объёму памяти узел способен разместить в 4-битной квантизации модели порядка нескольких сотен миллиардов параметров, например DeepSeek-R1 685B (около 404 ГБ в Q4_K_M), при условии резерва VRAM под KV-cache.

Состояние, проверка и доставка

Сервер поставляется новым. «СервакМастер» тестирует оборудование перед отправкой, даёт гарантию 1 год с заменой компонентов и организует доставку по России через СДЭК и другие службы. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером, и мы предложим подходящий вариант.

Характеристики