GIGABYTE G593-SD1-AAX1 — GPU-сервер на 8× NVIDIA H100 SXM 80GB (640 ГБ HBM3)

ВосьмиGPU-платформа GIGABYTE на базе HGX H100

GIGABYTE G593-SD1-AAX1 — это сервер для тяжёлых ИИ-нагрузок на основе платформы HGX с восемью ускорителями NVIDIA H100 в форм-факторе SXM. Каждый GPU несёт 80 ГБ памяти HBM3, в сумме система располагает 640 ГБ видеопамяти. Архитектура Hopper поддерживает вычисления FP16, FP8 и INT8, поэтому машина одинаково подходит и для обучения, и для промышленного инференса.

Ускорители объединены связкой NVLink и NVSwitch, что даёт высокую межGPU-пропускную способность. Это важно там, где модель или батч распределяются по всем восьми картам: распределённое обучение, тензорный и конвейерный параллелизм, обслуживание больших моделей с длинным контекстом.

Ключевые особенности

• 8× NVIDIA H100 SXM 80GB с памятью HBM3, суммарно 640 ГБ VRAM.
• Взаимосвязь GPU через NVLink и NVSwitch для масштабирования на все восемь ускорителей.
• Два сокета LGA4677: поддерживаются процессоры Intel Xeon Scalable 4-го и 5-го поколений, а также Intel Xeon CPU Max Series (двухпроцессорная конфигурация, TDP до 350 Вт).
• Оперативная память DDR5 RDIMM: 32 слота, 8 каналов на процессор, до 8 ТБ. Скорость у Xeon 5-го поколения — до 5600 MT/s при одном модуле на канал и 4400 MT/s при двух; у 4-го поколения и Xeon Max — до 4800 MT/s и 4400 MT/s соответственно.
• Восемь отсеков 2.5" с горячей заменой под накопители Gen5 NVMe, SATA или SAS-4 (для SAS нужна отдельная SAS-карта).
• Поддержка FP64, FP8, BF16/FP16, TF32 и INT8 на тензорных ядрах.

Важно учитывать: при установке только одного процессора часть линий PCIe и слотов памяти будет недоступна, поэтому для полноценной работы платформы рассчитывайте на два CPU.

Характеристики

Для каких задач подходит

Сервер рассчитан на сценарии, где требуется масштабирование по восьми GPU:

• обучение и дообучение (fine-tuning) крупных языковых моделей;
• промышленный инференс и serving с длинным контекстом и высокой конкурентностью;
• RAG-системы и агентные рабочие процессы;
• научные расчёты и HPC;
• генерация изображений и видео диффузионными моделями.

По оценке производителя платформы, 640 ГБ VRAM позволяют разместить, например, квантизированные до 4 бит DeepSeek-R1 685B (около 404 ГБ) и Mistral-Large-3 675B (около 407 ГБ), а Gpt-oss:120b (около 196 ГБ) помещается на 2–4 GPU с запасом под KV-cache. Из диффузионных моделей совместимы Stable Diffusion XL, Flux.2-dev (около 178 ГБ VRAM, лучше распределить на 2 и более GPU) и модели семейства Kandinsky 5.0. При длинном контексте оставляйте запас памяти под KV-cache.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России через СДЭК и другие ведущие службы. Если нужна конфигурация под ваш бюджет и задачи, свяжитесь с менеджером — мы подберём подходящий вариант на этой платформе.

Характеристики