Сервер Supermicro AS-8125GS-TNHR с 8× NVIDIA H100 SXM 80GB (HGX, 8U)

Supermicro AS-8125GS-TNHR: восемь H100 SXM в одном 8U-корпусе

Supermicro AS-8125GS-TNHR — это GPU-сервер на платформе HGX с восемью ускорителями NVIDIA H100 (Hopper) в форм-факторе SXM, по 80 ГБ памяти HBM3 на каждый. Суммарно в системе доступно 640 ГБ видеопамяти, а обмен между ускорителями идёт по NVLink через NVSwitch, что важно для обучения и запуска крупных моделей, не помещающихся в один GPU.

За вычисления на стороне CPU отвечают два процессора AMD EPYC 9004 Series (Socket SP5). Платформа рассчитана на задачи, где критичны мульти-GPU масштабирование и высокая пропускная способность: обучение и дообучение моделей, инференс, RAG-системы и научные расчёты.

Ключевые особенности

• 8× NVIDIA H100 SXM 80GB HBM3: 640 ГБ VRAM, поддержка FP16, FP8 и INT8.
• Связка NVLink + NVSwitch для интенсивного обмена данными между GPU.
• Два процессора AMD EPYC 9004 Series до 128 ядер / 256 потоков; заявлена поддержка TDP до 400 Вт при воздушном охлаждении.
• 24 слота DDR5 ECC RDIMM/LRDIMM, максимум до 6 ТБ на частоте 4800 MT/s (1DPC).
• Накопители: 12× 2.5" NVMe и 2× 2.5" SATA на передней панели, плюс 4× 2.5" NVMe опционально (может потребоваться дополнительный контроллер или кабели).
• Отдельный слот M.2 NVMe (M-key), предназначенный только под загрузочный диск.

Характеристики

Производительность и работа с моделями

Совокупная мощность восьми H100 SXM: FP64 Tensor Core — 536 TFLOPS, TF32 Tensor Core — 7 912 TFLOPS, INT8 Tensor Core — 31 664 TOPS. Объёма памяти хватает для крупных языковых моделей: например, DeepSeek-R1-GGUF 685B в квантизации Q4_K_M требует около 404 ГБ, Qwen3.5-397B-A17B-FP8 — около 406 ГБ, GLM-5-GGUF в Q4_K_M — около 456 ГБ. Модель gpt-oss:120b (около 196 ГБ) можно держать на 2–4 GPU, оставляя запас под длинный контекст и батчи. Для генерации изображений подходят Stable Diffusion XL, Flux.2-dev (около 178 ГБ VRAM, решается настройкой пайплайна на нескольких GPU), SD Turbo и Kandinsky 5.0.

Для каких задач подходит

• Обучение и дообучение больших языковых моделей с распределением по 8 GPU.
• Промышленный инференс и развёртывание LLM с запасом памяти под KV-cache и длинный контекст.
• RAG-системы и агентные сценарии.
• Генерация изображений и видео с параллельной обработкой очередей.
• HPC и научные расчёты, анализ данных.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — мы предложим подходящий вариант.

Характеристики