GIGABYTE G294-A22-AAP2 — GPU-сервер 2U с 4× RTX PRO 6000 BSE 96GB, Xeon 6944P и 1,1 ТБ RAM

GIGABYTE G294-A22-AAP2: компактный GPU-узел для ИИ-нагрузок

GIGABYTE G294-A22-AAP2 — двухъюнитовый сервер, в котором установлены четыре ускорителя NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7 каждый. Суммарно это 384 ГБ видеопамяти в одном корпусе, что позволяет размещать крупные языковые модели без выноса части весов в оперативную память.

Центральный процессор — Intel Xeon 6944P (72 ядра, 144 потока), а объём оперативной памяти достигает 1152 ГБ DDR5 ECC REG. Такая конфигурация рассчитана на промышленный инференс, RAG-системы, дообучение и графические задачи, где важны и память GPU, и пропускная способность подсистемы данных.

Ключевые особенности

• 384 ГБ VRAM на четырёх GPU — крупные LLM, включая MoE-архитектуры, запускаются в multi-GPU режиме с tensor/pipeline parallelism через vLLM или TensorRT-LLM.
• Архитектура Blackwell — запас памяти на GPU оставляет место под KV-cache, длинные контексты и множество параллельных сессий.
• Параллельные инстансы — четыре независимые карты позволяют держать несколько моделей или очередей одновременно и масштабировать пропускную способность.
• 1152 ГБ DDR5 ECC REG — набор из 12 модулей по 96 ГБ (6400 МГц) для датасетов, индексов RAG и предобработки.
• Рендеринг и визуализация — совокупная производительность RT-ядер четырёх карт заявлена на уровне 1420 TFLOPS, FP32 — 480 TFLOPS, FP4 — 16 PFLOPS.
• Форм-фактор 2U — высокая плотность вычислений для стойки.

Характеристики

Для каких задач подходит

Сервер оптимален для инференса и развёртывания языковых моделей, RAG-систем, дообучения, анализа данных, визуализации и рендеринга, а также видеоаналитики. Модели класса 70B и 120B (например, DeepSeek-R1-Distill-Llama-70B или gpt-oss:120b) размещаются с хорошим запасом под контекст и параллельные запросы. Очень крупные модели, близкие к лимиту 384 ГБ, потребуют жёсткого контроля контекста, batch size и числа сессий.

Для генерации изображений и видео (Stable Diffusion XL, Flux.2-dev, Kandinsky) память 96 ГБ на карту даёт возможность работать в высоком разрешении с большими батчами, а задания можно распределять по четырём GPU. Обучение моделей возможно для средних и части крупных сетей; результат зависит от стека и схемы параллелизма — это практичное on-prem решение, а не замена тренировочному кластеру.

Состояние, проверка и поставка

Оборудование поставляется новым. Перед отправкой «СервакМастер» тестирует сервер, на него действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России СДЭК и другими ведущими службами доставки.

Характеристики