Сервер GIGABYTE G593-ZD1-AAX1 на 8× NVIDIA H100 SXM 80GB (640 ГБ HBM3)

GIGABYTE G593-ZD1-AAX1: GPU-сервер на платформе NVIDIA HGX H100

G593-ZD1-AAX1 — это плотная 5U-платформа с восемью ускорителями NVIDIA H100 SXM5 по 80 ГБ HBM3. Графические процессоры объединены через NVLink и NVSwitch, поэтому система ведёт себя как единый вычислительный узел с суммарными 640 ГБ видеопамяти. Управляют ею два процессора AMD EPYC серий 9005/9004 (сокет SP5).

Такой сервер рассчитан на задачи, где одной или двух карт уже не хватает: обучение и дообучение больших языковых моделей, промышленный инференс с высокой конкурентностью, RAG-системы и научные расчёты. Большой запас VRAM позволяет держать крупные модели в распределённом режиме и не упираться в память при длинном контексте и объёмном KV-cache.

Ключевые особенности

• 8× NVIDIA H100 SXM 80GB, суммарно 640 ГБ памяти HBM3.
• Пропускная способность связи между GPU — 900 ГБ/с (NVLink/NVSwitch), что важно для масштабирования TP, PP и DP в NCCL и DeepSpeed.
• Два процессора AMD EPYC 9005/9004 (Socket SP5, LGA6096).
• 24 слота DDR5 RDIMM, 12 каналов на процессор, до 6 ТБ оперативной памяти.
• 8 отсеков 2.5" Gen5 NVMe/SATA/SAS-4 с горячей заменой (для SATA/SAS нужна карта хранения) и два слота M.2 (2280/22110).
• Два сетевых порта 10GbE на контроллере Intel X710-AT2.
• Совокупная мощность восьми H100 по типам точности: FP8 Tensor Core — 31 664 TFLOPS, BF16/FP16 — 15 832 TFLOPS, TF32 — 7 912 TFLOPS, FP64 Tensor Core — 536 TFLOPS.

Характеристики

Для каких задач подходит

• Обучение и дообучение моделей, включая распределённый запуск на нескольких GPU.
• Инференс и продакшн-serving больших LLM. По описанию поставщика, в 4-битной квантизации на 8×H100 помещаются модели уровня DeepSeek-R1 685B (около 404 ГБ), GLM-5 (около 456 ГБ) и Mistral-Large-3 675B (около 407 ГБ), а Qwen3.5-397B-A17B в FP8 занимает около 406 ГБ. Под KV-cache при длинном контексте лучше оставлять запас.
• Модель gpt-oss:120b (около 196 ГБ) обычно укладывается в 2–4 GPU, остальные карты можно занять параллельными инстансами.
• Генерация изображений и видео. SDXL и Kandinsky 5.0 работают с большим запасом, а для Flux.2-dev (около 178 ГБ VRAM) нужны multi-GPU режим или оптимизации памяти.
• RAG-системы, анализ данных и HPC-расчёты.

Состояние, проверка и доставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставляем по России через СДЭК и другие ведущие службы. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером, и мы подберём подходящий вариант.

Характеристики