Сервер DELL PowerEdge XE9780 (8× B300 SXM 288GB) для обучения и инференса ИИ

DELL PowerEdge XE9780 с 8 GPU NVIDIA B300 SXM: платформа для крупных ИИ-моделей

DELL PowerEdge XE9780 — это 10U-сервер на базе NVIDIA HGX B300 NVL8, в котором восемь ускорителей B300 SXM объединены полной связностью по NVLink. Суммарный объём видеопамяти HBM3e составляет 2304 ГБ (по 288 ГБ на GPU), поэтому узел рассчитан на работу с очень крупными моделями и длинным контекстом.

Конфигурация ориентирована на обучение и дообучение моделей, где важны масштабирование по 8 GPU, высокая пропускная способность и стабильность при длительной нагрузке. Она также подходит для промышленного инференса и RAG-систем: большой запас видеопамяти позволяет держать высокий параллелизм запросов и не упираться в KV-cache в пиковые часы.

Ключевые особенности

• 8× NVIDIA B300 SXM на архитектуре Blackwell с поддержкой FP16, FP8 и INT8.
• 2304 ГБ видеопамяти HBM3e в одном узле.
• Совокупная мощность HGX B300 8-GPU: 72 PFLOPS в FP8/FP6 Tensor core (обучение) и 144 PFLOPS в FP4 Tensor core (инференс).
• Два процессора Intel Xeon 6-го поколения, по документации до 86 ядер на процессор.
• До 4 ТБ оперативной памяти DDR5 RDIMM, 32 слота, частота до 6400 MT/s.
• Фронтальные отсеки: до 16× E3.S NVMe или до 10× U.2 NVMe.
• Загрузочный массив BOSS-N1 на 2× M.2 NVMe с аппаратным RAID 1.

Характеристики

Для каких задач подходит

Объём памяти позволяет запускать без квантизации многие современные LLM. Например, по данным поставщика, DeepSeek-V4-Pro требует примерно 865 ГБ, Mistral-Large-3-675B-Instruct — около 682 ГБ, GLM-5.2 — около 1,51 ТБ, Kimi-K3 — около 1,56 ТБ. Модели меньшего размера, вроде gpt-oss:120b (около 196 ГБ), можно держать на одном-двух GPU и наращивать пропускную способность за счёт батчей.

Для диффузионных моделей — Stable Diffusion XL, Flux.2-dev, SD Turbo, Kandinsky-5.0 (текст в изображение и в видео) — сервер даёт большой запас VRAM под высокие разрешения, крупные батчи и параллельные пайплайны. Платформа также применима для анализа данных, научных расчётов (HPC), визуализации и рендеринга.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка выполняется по России курьерской службой СДЭК и другими ведущими перевозчиками. Если нужна конфигурация на эту платформу под ваши задачи, свяжитесь с менеджером — он подберёт вариант под бюджет и требования.

Характеристики