GPU-сервер DELL PowerEdge XE7745: 8× RTX PRO 6000 BSE 96GB, 2× EPYC 9755, 1152 ГБ RAM

GPU-сервер DELL PowerEdge XE7745 для крупных LLM и мультиGPU-нагрузок

DELL PowerEdge XE7745 — 4U-платформа, в которой установлено восемь видеокарт NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7. Суммарно узел располагает 768 ГБ видеопамяти, а вычислительную часть обеспечивают два процессора AMD EPYC 9755 и 1152 ГБ оперативной памяти DDR5 ECC REG.

Такая конфигурация рассчитана на продакшн-сервисы с высокой нагрузкой: распределённый инференс больших языковых моделей, RAG-системы, дообучение и отдельные сценарии обучения в режиме multi-GPU. Большой объём VRAM на каждой карте позволяет работать с длинным контекстом и крупными батчами.

Ключевые особенности

• 8 GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, по 96 ГБ GDDR7 на карту, 768 ГБ VRAM в сумме.
• Два процессора AMD EPYC 9755 (128 ядер / 256 потоков каждый, 2.7–4.1 ГГц).
• 8 модулей DDR5 ECC REG Samsung 48 ГБ, 5600 МГц, итого 1152 ГБ оперативной памяти.
• 24 накопителя Micron 7600 MAX 6.4 ТБ в форм-факторе E1.S 15mm.
• Сетевая карта Mellanox MCX75310AAS-NEAT: один порт OSFP, 400GbE.
• Агрегированная производительность восьми GPU по данным поставщика: FP32 — 960 TFLOPS, FP4 — 32 PFLOPS, RT Core — 2840 TFLOPS.
• Совместимость с крупными моделями при распределённом запуске по нескольким GPU: DeepSeek-R1 685B (около 689 ГБ VRAM), Mistral-Large-3-675B (около 682 ГБ), GigaChat3.5-432B-A28B (около 438 ГБ), Qwen3.5-397B-A17B-FP8 (около 406 ГБ), gpt-oss:120b (около 196 ГБ) и другие.

Характеристики

Для каких задач подходит

• Инференс и развёртывание LLM в продакшне: модели, не помещающиеся на одну карту, запускаются в режиме tensor/pipeline parallel на 2–8 GPU, а на оставшихся ресурсах можно держать эмбеддинги, rerank и суммаризацию.
• RAG-системы и корпоративные ассистенты с длинным контекстом и большим числом параллельных пользователей.
• Дообучение моделей и отдельные задачи обучения, где важны крупные батчи и высокая загрузка GPU.
• Визуализация, рендеринг и видеоаналитика: потоки и модели распределяются по восьми картам независимо.

Ограничение стандартное для такой архитектуры: всё, что превышает 96 ГБ на одну карту, работает только в распределённом режиме.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на конфигурацию действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется службой СДЭК и другими транспортными компаниями.

Характеристики