Сервер GIGABYTE G894-AD3-AAX7 с 8× NVIDIA B300 SXM 288GB, 8U

GIGABYTE G894-AD3-AAX7: 8-GPU сервер на платформе HGX B300

G894-AD3-AAX7 — это 8U-платформа для тяжёлых ИИ-нагрузок. В ней установлены восемь ускорителей NVIDIA B300 SXM (Blackwell Ultra) по 288 ГБ памяти HBM3e каждый, то есть 2304 ГБ видеопамяти в одном узле. За вычисления на стороне CPU отвечают два процессора Intel Xeon 6 серии 6900.

Такая конфигурация рассчитана на обучение и дообучение больших моделей, а также на промышленный инференс, где важны длинный контекст и высокий параллелизм запросов. Связка NVLink и NVSwitch обеспечивает интенсивный обмен данными между GPU, а OSFP-порты для GPU-сети на базе ConnectX-8 позволяют объединять такие узлы в кластер.

Ключевые особенности

• Восемь NVIDIA B300 Blackwell Ultra SXM по 288 ГБ HBM3e — всего 2304 ГБ VRAM.
• МежGPU-связность NVLink и NVSwitch для обучения и крупных батчей.
• OSFP-порты для GPU-сети через ConnectX-8 — удобно масштабировать в кластер.
• Два процессора Intel Xeon 6 серии 6900 с TDP до 500 Вт, сокеты LGA 7529.
• 24 слота DDR5 RDIMM или MRDIMM, 12-канальная архитектура на процессор, до 6 ТБ суммарно.
• Накопители: 8× 2.5" Gen5 NVMe hot-swap и 2× M.2.
• Совокупная производительность HGX B300 8-GPU: 72 PFLOPS в FP8/FP6 (обучение) и 144 PFLOPS в FP4 (инференс).

Характеристики

Для каких задач подходит

• Обучение и дообучение больших языковых моделей, когда нужна высокая плотность ускорителей и стабильная связность между GPU.
• Инференс и развёртывание моделей с длинным контекстом и большим числом параллельных запросов, а также RAG-системы.
• HPC и научные расчёты, анализ данных, визуализация и рендеринг.
• Запуск крупных моделей без агрессивной квантизации: по оценкам поставщика, 2304 ГБ VRAM хватает на распределённый запуск моделей с требованием памяти порядка 0,8–1,5 ТБ, а для диффузионных моделей (Stable Diffusion XL, Flux.2-dev и др.) можно держать высокое разрешение и большие очереди генерации.

Важно учитывать эксплуатацию: это 8U-платформа с высокой плотностью питания и охлаждения, поэтому нужна стойка с подходящим электропитанием и инфраструктурой ЦОД, а также корректная настройка multi-GPU стека под обучение и serving.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на конфигурацию действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России через СДЭК и другие ведущие службы доставки. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — мы предложим подходящий вариант.

Характеристики