Сервер DELL PowerEdge XE9785 с 8× AMD Instinct MI355X 288GB (2304 ГБ HBM3e)

DELL PowerEdge XE9785: GPU-узел для больших моделей и HPC

DELL PowerEdge XE9785 — это 10U-сервер для ИИ и высокопроизводительных вычислений, в котором собраны восемь ускорителей AMD Instinct MI355X в формате OAM и два процессора AMD EPYC 9005. Платформа рассчитана на ситуации, когда задачу нужно уместить в один мощный узел с большим запасом памяти и высокой пропускной способностью.

Каждый ускоритель несёт 288 ГБ памяти HBM3e, вместе это 2304 ГБ (около 2,3 ТБ) VRAM. Такого объёма хватает для очень больших моделей, длинного контекста и крупного KV-cache, а также для высокой параллельности запросов. MI355X ориентирован на низкие точности, включая FP4 и FP6: это ускоряет квантизированный инференс и снижает требования к памяти (результат зависит от стека и сборки ROCm).

Ключевые особенности

• 8 × AMD Instinct MI355X OAM, по 288 ГБ HBM3e на ускоритель, суммарно 2304 ГБ.
• Два процессора AMD EPYC 9005 серии, сокет SP5 (LGA 6096).
• До 6 ТБ оперативной памяти DDR5 ECC RDIMM, 24 слота.
• Хранилище: 16× E3.S Gen5 NVMe direct SSD или 10× U.2 Gen5 NVMe SSD; под загрузочный массив предусмотрен BOSS-N1 с двумя M.2 SSD.
• Совокупная производительность восьми GPU: 40 PFLOPS в FP8 (80,8 PFLOPS со структурированной разреженностью), 20 PFLOPS в FP16/BF16 Matrix, 628,8 TFLOPS в FP64.
• Для 8 × MI355X в исходных данных отмечена совместимость с крупными LLM, в том числе DeepSeek-V4-Pro, GLM-5.2, Kimi-K3, Mistral-Large-3 и gpt-oss:120b, а также с диффузионными моделями (SDXL 1.0, Flux.2-dev, Kandinsky 5.0).

Характеристики

Для каких задач подходит

• Обучение и дообучение (fine-tuning) больших языковых моделей.
• Инференс и развёртывание моделей с длинным контекстом и большим числом одновременных запросов.
• RAG-системы и агентные рабочие процессы с reasoning-моделями.
• Генерация изображений и короткого видео: пайплайны удобно распараллеливать по восьми GPU.
• Научные расчёты и анализ данных (HPC), где важна производительность FP64.

Состояние, проверка и доставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами доставки. Если нужна конфигурация этой платформы под ваши задачи и бюджет, свяжитесь с менеджером — мы предложим подходящий вариант.

Характеристики