GIGABYTE G593-ZD2-AAX1 — 5U GPU-сервер на 8× NVIDIA H100 SXM 80GB

GIGABYTE G593-ZD2-AAX1: восемь H100 SXM в одном шасси 5U

G593-ZD2-AAX1 — это 8-GPU сервер на базе платформы NVIDIA HGX H100, в которой восемь ускорителей H100 SXM5 по 80 ГБ объединены связкой NVLink/NVSwitch. Суммарно доступно 640 ГБ видеопамяти, а пропускная способность обмена между GPU заявлена на уровне 900 ГБ/с. Это базовый строительный блок для кластеров обучения и производственного инференса больших языковых моделей.

За вычисления на стороне хоста отвечают два процессора AMD EPYC 9005/9004 (сокет SP5) и до 6 ТБ оперативной памяти DDR5. Такой запас по CPU и RAM позволяет не упираться в подготовку данных, токенизацию и работу векторных баз, когда GPU загружены на полную мощность.

Ключевые особенности

• 8× NVIDIA H100 SXM 80GB (Hopper) с поддержкой FP16, FP8 и INT8, суммарно 640 ГБ VRAM.
• NVLink/NVSwitch с заявленными 900 ГБ/с между GPU: эффективное масштабирование tensor-, pipeline- и data-параллелизма (NCCL, DeepSpeed).
• Два процессора AMD EPYC 9005/9004 (SP5 / LGA6096), cTDP до 400 Вт, при 25 °C — до 500 Вт.
• 24 слота DIMM, 12 каналов на процессор, DDR5 ECC REG RDIMM, максимум до 6 ТБ.
• 8 отсеков 2.5" hot-swap с интерфейсами Gen5 NVMe, SATA и SAS-4 (для SATA/SAS нужна storage-карта) и два слота M.2 (2280/22110).
• Совокупная производительность восьми H100: FP8 Tensor Core — 31 664 TFLOPS, BF16/FP16 — 15 832 TFLOPS, TF32 — 7 912 TFLOPS, FP64 Tensor Core — 536 TFLOPS.

Характеристики

Для каких задач подходит

Платформа рассчитана на обучение и дообучение моделей, инференс и развёртывание LLM, RAG-системы, анализ данных и научные расчёты (HPC). По оценкам поставщика, 640 ГБ видеопамяти хватает для запуска крупных квантизированных моделей, например DeepSeek-R1 685B в Q4_K_M (около 404 ГБ) или GLM-5 в Q4_K_M (около 456 ГБ). Для длинного контекста и высокой параллельности запросов важно оставлять запас VRAM под KV-cache.

Для генеративных моделей изображений и видео сервер удобен тем, что задачи легко распределяются по GPU: SDXL, SD Turbo и Kandinsky 5.0 работают с большим запасом, а для Flux.2-dev (около 178 ГБ VRAM) потребуется multi-GPU режим или оптимизации памяти.

Состояние, проверка и гарантия

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером, и мы подберём подходящий вариант.

Характеристики