GIGABYTE G494-SB4-AAP2 — 4U GPU-сервер: 8× RTX PRO 6000 BSE 96GB, 2× Xeon 6760P, 1.1 ТБ RAM

GIGABYTE G494-SB4-AAP2: GPU-сервер для промышленного инференса и RAG

G494-SB4-AAP2 — это 4U-платформа GIGABYTE, в которой размещены восемь ускорителей NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7. Суммарно узел располагает 768 ГБ видеопамяти, а за вычисления на стороне хоста отвечают два процессора Intel Xeon 6760P и 1152 ГБ оперативной памяти DDR5 ECC REG.

Такая конфигурация рассчитана на высокую плотность задач в одном корпусе: крупные языковые модели, RAG-системы, генеративная графика и видео. Архитектура Blackwell даёт ускорение Tensor Core, включая FP8 и FP4, поэтому сервер подходит для LLM-сервисов с длинным контекстом и множеством параллельных сессий.

Ключевые особенности

• 8× NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7 — 768 ГБ VRAM на узел.
• Совокупная мощность восьми GPU: 960 TFLOPS в FP32 и 32 PFLOPS в FP4; пиковая производительность RT-ядер — 2840 TFLOPS.
• 2× Intel Xeon 6760P (64 ядра / 128 потоков, 2,2–3,8 ГГц, 330 Вт).
• 24 модуля по 48 ГБ DDR5 ECC REG SK Hynix 6400 МГц — всего 1152 ГБ.
• 4× SSD Solidigm D7-PS1010 3,84 ТБ в формате U.2.
• Модели уровня DeepSeek-R1 685B (около 689 ГБ VRAM) размещаются на одном сервере за счёт распределения по GPU через vLLM или TensorRT-LLM.
• Диффузионные модели (SDXL, Flux.2-dev, Kandinsky-5.0) удобно распараллеливать: большие батчи и несколько очередей на разных GPU.

Характеристики

Для каких задач подходит

• Инференс LLM: продакшн-чаты и агентные сценарии с высоким QPS, например Qwen3.5-397B-A17B-FP8, GigaChat3.5-432B-A28B, Mistral-Large-3-675B и gpt-oss:120b, который помещается без квантизации с запасом под несколько реплик.
• RAG-системы: крупная модель, эмбеддинги и векторный поиск на одном узле.
• Дообучение моделей: средние и крупные модели, мультимодальные задачи; эффективность зависит от используемого фреймворка.
• Генерация изображений и видео: SDXL, Flux.2-dev, SD Turbo, Kandinsky-5.0 в серийном режиме.
• Визуализация, рендеринг и видеоаналитика: благодаря RT-ядрам и большому объёму видеопамяти.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка выполняется по России службой СДЭК и другими ведущими службами доставки. Консультанты помогут уточнить конфигурацию под вашу нагрузку.

Характеристики