GIGABYTE G593-ZD1-AAX3 — GPU-сервер 5U на 8× NVIDIA H200 SXM 141GB

Обзор GIGABYTE G593-ZD1-AAX3 с 8× H200 SXM

GIGABYTE G593-ZD1-AAX3 — сервер в корпусе 5U, построенный на платформе NVIDIA HGX H200 (архитектура Hopper). Внутри восемь ускорителей H200 SXM по 141 ГБ памяти HBM3e каждый, то есть 1128 ГБ видеопамяти на узел. Вычислительную часть обеспечивают два процессора AMD EPYC 9005/9004 (сокет SP5).

Такая конфигурация предназначена для обучения и дообучения больших языковых моделей, высоконагруженного инференса, RAG-систем и научных расчётов с высокой плотностью вычислений. Большой объём HBM3e особенно важен при длинном контексте и тяжёлых сценариях с KV-cache.

Ключевые особенности

• 8 ускорителей NVIDIA H200 SXM, по 141 ГБ HBM3e на каждый, в сумме 1128 ГБ (около 1,1 ТБ) VRAM.
• NVLink с пропускной способностью до 900 ГБ/с для обмена данными между GPU внутри узла — это упрощает multi-GPU serving и распределение крупных моделей.
• Поддержка режимов FP16, FP8 и INT8 для ускоренного обучения и инференса.
• Два процессора AMD EPYC 9005/9004 (SP5, cTDP до 500 Вт) и 24 слота DDR5 RDIMM, 12 каналов памяти на процессор, до 6 ТБ ОЗУ.
• Фронтальные 8×2,5" hot-swap отсеки Gen5 NVMe/SATA/SAS-4 и два внутренних слота M.2 (PCIe Gen3 x4 и Gen3 x1).
• Совокупная мощность восьми GPU по данным производителя: FP8 Tensor Core — 31 664 TFLOPS, BF16/FP16 — 15 832 TFLOPS, TF32 — 7 912 TFLOPS, FP64 Tensor Core — 536 TFLOPS.

Характеристики

Для каких задач подходит

• Обучение и дообучение крупных LLM, где важны объём видеопамяти и скорость обмена между GPU.
• Production-инференс с большими батчами и высокой параллельностью запросов. По данным поставщика, на 8 GPU без квантизации размещаются модели с требованием памяти до 1 ТБ, например DeepSeek-V4-Pro (около 865 ГБ) и MiMo-V2.5-Pro (около 1,03 ТБ).
• RAG-системы и агентные рабочие процессы с длинным контекстом.
• Генерация изображений и видео: Stable Diffusion XL, Flux.2-dev, SD Turbo, Kandinsky-5.0 — с распараллеливанием очередей по GPU.
• HPC и научные расчёты, анализ данных.

Стоит учитывать ограничения платформы. При длинном контексте и росте batch size нужен запас VRAM под KV-cache и служебные расходы. При установке только одного процессора часть линий PCIe и памяти будет недоступна. Для SATA/SAS-дисков и RAID потребуется отдельная карта.

Состояние, проверка и доставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставку по России выполняем через СДЭК и другие ведущие службы доставки. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — мы подберём подходящий вариант.

Характеристики