Supermicro SYS-A22GA-NBRT — GPU-сервер 10U на 8× NVIDIA B200 SXM 180GB, 2× Xeon 6960P, 2,3 ТБ RAM

Supermicro SYS-A22GA-NBRT: флагманская платформа для обучения и инференса LLM

SYS-A22GA-NBRT — это сервер Supermicro форм-фактора 10U, в который интегрирован GPU-модуль NVIDIA HGX B200. Внутри восемь ускорителей B200 SXM по 180 ГБ памяти HBM3e каждый, то есть 1440 ГБ видеопамяти на всю систему. Графические процессоры связаны между собой по NVLink поколения Blackwell, что даёт низкую задержку обмена и удобное масштабирование при тензорном и конвейерном параллелизме.

Вычислительную часть дополняют два процессора Intel Xeon 6960P и 2304 ГБ оперативной памяти DDR5. Такая конфигурация рассчитана на крупнейшие языковые модели, длинный контекст и большие батчи, а также на HPC-нагрузки.

Ключевые особенности

• 8× NVIDIA B200 SXM 180GB на базовой плате HGX B200, суммарно 1,44 ТБ HBM3e.
• NVLink Blackwell между GPU для быстрого обмена данными при распределённом обучении и инференсе.
• Transformer Engine с поддержкой FP8 и FP4, а также BF16, FP16, TF32, FP32 и FP64: ускорение обучения и инференса без заметной потери качества.
• Большой запас памяти под длинный контекст, крупные батчи и распределённый KV-кеш в PyTorch, TensorRT-LLM и vLLM.
• Два Intel Xeon 6960P (72 ядра / 144 потока, 2,7–3,9 ГГц, 500 Вт).
• 24 модуля по 96 ГБ DDR5 ECC REG 6400 МГц — 2304 ГБ оперативной памяти.
• Быстрая сеть: четыре адаптера Mellanox MCX75310AAS-NEAT (OSFP, 400GbE) и адаптер AOC-S25G-m2S (2× SFP28, 25GbE).
• Совокупная производительность HGX B200 8-GPU: до 144 PFLOPS в FP4 и 72 PFLOPS в FP8/FP6.

Характеристики

Для каких задач подходит

Система ориентирована на обучение и дообучение моделей, инференс, RAG-системы, анализ данных, научные расчёты (HPC), а также визуализацию и рендеринг. По данным поставщика, в 8× B200 без квантизации помещаются крупные LLM: DeepSeek-V4-Pro (около 865 ГБ), GigaChat3.5-432B-A28B-bf16 (около 868 ГБ), Mistral-Large-3-675B (около 682 ГБ), Kimi-K2.7-Code (около 595 ГБ), MiniMax-M3 (около 854 ГБ) и MiMo-V2.5-Pro (около 1,03 ТБ). Для Qwen3.8-2.4T-A95B в квантизации UD-IQ4_XS требуется около 1,31 ТБ VRAM.

Из диффузионных моделей совместимы Stable Diffusion XL 1.0, Flux.2-dev (около 178 ГБ VRAM), SD Turbo, а также Kandinsky-5.0 для изображений и коротких видео — с большим запасом памяти для высокого разрешения и батчей.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на систему действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами доставки.

Характеристики