Сервер GIGABYTE G494-ZB4-AAP2 для ИИ: 8× RTX PRO 6000 BSE 96GB, 2× EPYC 9655, 768GB RAM

Обзор: GPU-сервер на 8 ускорителей Blackwell для ИИ-нагрузок

GIGABYTE G494-ZB4-AAP2 — высокоплотная 4U-платформа, в которой установлено восемь профессиональных ускорителей NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7 с ECC. Суммарно узел располагает 768 ГБ видеопамяти, поэтому крупные языковые модели, несколько реплик одновременно и тяжёлые генеративные пайплайны можно держать в пределах одного сервера.

Вычислительную часть обеспечивают два процессора AMD EPYC 9655 (96 ядер / 192 потока каждый) и 768 ГБ оперативной памяти DDR5 ECC REG. Такая конфигурация подходит для промышленного инференса, RAG-систем и мультимодальных сервисов, где важны параллелизм по GPU и запас по памяти.

Ключевые особенности

• 8 × NVIDIA RTX PRO 6000 Blackwell Server Edition — 96 ГБ GDDR7 ECC на карту, интерфейс PCIe Gen5, пассивное охлаждение для работы в дата-центре.
• 768 ГБ VRAM на узел — по данным поставщика, в память помещаются модели класса DeepSeek-R1 685B, GigaChat3.5-432B-A28B и Mistral-Large-3-675B с распределением по нескольким GPU (tensor/pipeline parallel) в vLLM или TensorRT-LLM.
• Поддержка FP4 и FP8 — аппаратное ускорение низкой точности на Tensor Cores снижает требования к памяти при высокой скорости инференса.
• Видеодвижки NVENC/NVDEC — полезны для видеоаналитики, видеонаблюдения и мультимодальных пайплайнов.
• 2 × AMD EPYC 9655 — 96c/192t, 2,6–4,5 ГГц, 400 Вт на процессор.
• 12 × 64 ГБ DDR5 ECC REG — Samsung, 5600 МГц, 2Rx4.
• 4 × Solidigm D7-PS1030 3,2 ТБ U.2 — быстрое локальное хранилище для весов моделей и датасетов.
• Важно учесть при проектировании: видеовыходы GPU в этой платформе недоступны, а для ускорителей мощностью до 600 Вт нужны соответствующее охлаждение (при необходимости — опциональный fan kit) и серьёзный запас по питанию.

Характеристики

Для каких задач подходит

• Инференс LLM в продакшене: крупные модели в одном узле, несколько реплик и микросервисов, высокий batch и длинный контекст.
• RAG-системы и корпоративные ассистенты: одновременное обслуживание множества пользователей и проектов.
• Генерация изображений и видео: Stable Diffusion XL, Flux.2-dev, Kandinsky 5.0 — очередь задач удобно распределяется по восьми GPU.
• Дообучение моделей и эксперименты с распределёнными схемами внутри одного сервера.
• Визуализация и рендеринг: RT-ядра ускоряют трассировку лучей и 3D-пайплайны.

Состояние, проверка и гарантия

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на конфигурацию действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки. Для подбора конфигурации под вашу модель и нагрузку можно обратиться за консультацией к специалистам магазина.

Характеристики