Сервер DELL PowerEdge XE9680 с 8× AMD Instinct MI300X 192GB (1536 ГБ HBM3)

GPU-сервер DELL PowerEdge XE9680 для крупных ИИ-нагрузок

DELL PowerEdge XE9680 в этой конфигурации — 6U-платформа на восемь ускорителей AMD Instinct MI300X в форм-факторе OAM. Это система Dell, рассчитанная на масштабные задачи генеративного ИИ, машинного и глубокого обучения, а также научных расчётов.

Главное преимущество конфигурации — память. На каждом MI300X установлено по 192 ГБ HBM3, в сумме 1536 ГБ (около 1,5 ТБ) видеопамяти на одном узле. Этого хватает для очень больших моделей, длинного контекста и объёмного KV-cache без постоянного упора в нехватку памяти.

Ключевые особенности

• 8 ускорителей AMD Instinct MI300X OAM по 192 ГБ HBM3 каждый.
• 1536 ГБ суммарной видеопамяти — запас для моделей с сотнями миллиардов параметров.
• Два процессора Intel Xeon Scalable 4-го или 5-го поколения (на 5-м — до 64 ядер и 350 Вт).
• До 4 ТБ оперативной памяти DDR5 ECC RDIMM в 32 слотах.
• Дисковая подсистема: до 8× 2.5" NVMe/SAS/SATA либо до 16× E3.S NVMe, в обоих вариантах до 122,88 ТБ.
• Совокупная производительность восьми GPU: 20,88 PFLOPS в FP8 и 10,4 PFLOPS в FP16 (в режиме со структурированной разреженностью вдвое выше).
• Для FP64 заявлено 653,6 TFLOPS.

Характеристики

Для каких задач подходит

Сервер рассчитан на обучение и дообучение моделей, инференс и развёртывание LLM, RAG-системы и HPC-расчёты. По данным поставщика, на одном узле с 8× MI300X помещаются, например, DeepSeek-R1 685B (примерно 689 ГБ VRAM), GLM-5 в режиме FP8 (около 756 ГБ), Mistral-Large-3-675B (около 682 ГБ) и GigaChat3-702B-A36B-preview (около 720 ГБ), при этом остаётся место под контекст и батчи. Модель класса gpt-oss:120b (около 196 ГБ) можно держать на одном-двух GPU, а остальную память отдать под высокую параллельность запросов.

Хорошо подходит платформа и для диффузионных моделей — Stable Diffusion XL, Flux.2-dev, Kandinsky 5.0: большая память позволяет повышать разрешение и параллельно запускать очереди генерации на разных GPU.

Состояние, проверка и доставка

Сервер поставляется новым. «СервакМастер» тестирует оборудование перед отправкой, даёт гарантию 1 год с заменой компонентов и организует доставку по России через СДЭК и другие службы. Если нужна конфигурация на эту платформу под ваши задачи и бюджет, свяжитесь с менеджером — подберём подходящий вариант.

Характеристики