Сервер GIGABYTE G492-IL0 на 8× NVIDIA A100 SXM 80GB (640 ГБ HBM2e, 4U)

GIGABYTE G492-IL0 — GPU-сервер на базе HGX A100 для крупных ИИ-моделей

GIGABYTE G492-IL0 — это 4U-платформа с двумя процессорами Intel Xeon Scalable 3-го поколения и восемью ускорителями NVIDIA A100 SXM 80GB на плате HGX. Связка NVLink/NVSwitch обеспечивает быстрый обмен данными между GPU, поэтому сервер подходит для задач, где модель и градиенты приходится распределять по всем ускорителям.

Суммарно доступно 640 ГБ видеопамяти HBM2e. Этого хватает, чтобы держать крупные модели и оставлять запас под KV-cache, батчи и параллельные сессии. В линейке GIGABYTE платформа заявлена как 4U DP SXM4 A100 8 GPU сервер.

Ключевые особенности

• 8× NVIDIA A100 SXM 80GB с памятью HBM2e, всего 640 ГБ VRAM.
• NVLink/NVSwitch для эффективной работы в multi-GPU сценариях.
• Два сокета LGA4189 под Intel Xeon Scalable 3-го поколения, TDP процессора до 270 Вт.
• 32 слота DIMM (8 каналов), память DDR4 ECC REG объёмом до 8 ТБ.
• Накопители: 6 отсеков 2.5" Gen4 NVMe/SATA и 2 слота M.2 PCIe Gen4 x4.
• Резервированное питание 3+1 по 3000 Вт.
• Совокупная производительность восьми GPU: 156 TFLOPS FP64 Tensor Core, 2 496 TFLOPS TF32, 4 992 TFLOPS BF16/FP16 и 9 984 TOPS INT8.

Характеристики

Для каких задач подходит

Сервер рассчитан на обучение и дообучение моделей, а также на промышленный инференс. По данным расчёта VRAM, в 4-битной квантизации на 8 GPU размещаются такие модели, как DeepSeek-R1 685B (около 404 ГБ), Mistral-Large-3 675B (около 407 ГБ) и GLM-5 (около 456 ГБ). Модель gpt-oss:120b занимает около 196 ГБ и помещается на 2–4 GPU, оставляя память под длинный контекст.

Платформа подходит и для диффузионных пайплайнов: Stable Diffusion XL, Flux.2-dev, SD Turbo и Kandinsky 5.0 удобно распараллеливаются по нескольким GPU. Кроме того, это сервер для RAG-систем, анализа данных и научных расчётов HPC.

Состояние, проверка и доставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером, и мы подберём подходящий вариант.

Характеристики