GIGABYTE G593-SD2-AAX1 — 5U GPU-сервер с 8× NVIDIA H100 SXM 80GB (640 ГБ HBM3)

GIGABYTE G593-SD2-AAX1: восемь H100 SXM в одном корпусе 5U

G593-SD2-AAX1 — это GPU-сервер на платформе HGX H100 с восемью ускорителями NVIDIA H100 SXM5 по 80 ГБ памяти HBM3. Суммарный объём видеопамяти составляет 640 ГБ, а GPU связаны между собой высокоскоростной межсоединительной шиной, что критично для масштабирования на все восемь ускорителей.

Система рассчитана на обучение и дообучение крупных моделей, промышленный инференс, RAG-системы и научные расчёты. Архитектура Hopper поддерживает вычисления в FP16, FP8 и INT8, поэтому сервер подходит как для классического обучения, так и для эффективного запуска квантизированных языковых моделей.

Ключевые особенности

• 8× NVIDIA H100 SXM 80GB HBM3 — 640 ГБ видеопамяти для крупных моделей, длинного контекста и больших батчей.
• Два сокета LGA4677: поддерживаются Intel Xeon Scalable 4-го и 5-го поколений, а также Intel Xeon CPU Max Series (TDP до 350 Вт).
• Память DDR5 ECC REG: 32 слота DIMM, 8 каналов на процессор, объём до 8 ТБ.
• Скорость памяти: для 5-го поколения Xeon до 5600 MT/s (1DPC) и 4400 MT/s (2DPC); для 4-го поколения и Xeon Max — до 4800 MT/s (1DPC) и 4400 MT/s (2DPC).
• Накопители: 8× 2.5" hot-swap с поддержкой Gen5 NVMe, SATA и SAS-4 (для SAS нужна SAS-карта).
• Суммарная производительность восьми GPU: FP8 Tensor Core — 31 664 TFLOPS, BF16/FP16 Tensor Core — 15 832 TFLOPS, TF32 — 7 912 TFLOPS, FP64 Tensor Core — 536 TFLOPS.

Важно учитывать: при установке всего одного процессора часть линий PCIe и слотов памяти может оказаться недоступной.

Характеристики

Для каких задач подходит

• Инференс больших языковых моделей. По данным производителя платформы, DeepSeek-R1 685B в квантизации Q4_K_M требует около 404 ГБ VRAM, Qwen3.5-397B-A17B-FP8 — около 406 ГБ, GigaChat3.5-432B-A28B — около 438 ГБ; всё это помещается в 640 ГБ с запасом под KV-cache.
• Модели меньшего размера, например gpt-oss:120b (около 196 ГБ), можно запускать на 2–4 GPU, оставляя остальные для параллельных сервисов.
• Генерация изображений и видео: Stable Diffusion XL, Flux.2-dev, SD Turbo, Kandinsky 5.0 — с распараллеливанием задач по нескольким GPU.
• Обучение и дообучение моделей, RAG-системы, анализ данных и HPC-расчёты, где важна пропускная способность между GPU.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка выполняется по России СДЭК и другими ведущими службами. Если нужна конфигурация под ваши задачи и бюджет, свяжитесь с менеджером — мы подберём подходящий вариант на этой платформе.

Характеристики