Сервер DELL PowerEdge XE7740 с 8× RTX PRO 6000 BSE 96GB, 2× Xeon 6781P и 1 ТБ RAM

Обзор: GPU-сервер DELL PowerEdge XE7740 для production-нагрузок ИИ

DELL PowerEdge XE7740 в этой конфигурации — узел высокой плотности в корпусе 4U: восемь ускорителей NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7, два процессора Intel Xeon 6781P и 1 ТБ оперативной памяти DDR5. Суммарный объём видеопамяти составляет 768 ГБ, поэтому на одной машине можно развернуть крупные языковые модели и обслуживать несколько сервисов одновременно.

Платформа рассчитана на инференс, RAG-системы, дообучение и отдельные сценарии обучения моделей, а также на визуализацию и рендеринг. Объём памяти на каждой карте позволяет держать большие контексты и несколько реплик модели, а при необходимости модель распределяется на 2–8 GPU.

Ключевые особенности

• 8× NVIDIA RTX PRO 6000 Blackwell Server Edition, по 96 ГБ GDDR7 на карту, 768 ГБ VRAM в сумме.
• 2× Intel Xeon 6781P: 80 ядер и 160 потоков, 2,0–3,8 ГГц, 350 Вт.
• 1 ТБ оперативной памяти: 8× 128 ГБ DDR5 ECC REG SK Hynix 6400 МГц.
• Платформа ASUS ESC8000-E12 SKU1.
• Накопители: 4× Kioxia CD9P-V 12,8 ТБ в формате E3.S 7.5mm.
• Сеть: NVIDIA MCX713106AC-VEAT с двумя портами QSFP112 200GbE.
• Совокупная пиковая мощность восьми GPU: 960 TFLOPS в FP32 и 32 PFLOPS в FP4.
• По описанию, в связке с vLLM и TensorRT-LLM узел запускает DeepSeek-R1 685B, Mistral-Large-3-675B и GigaChat3.5-432B-A28B (по оценке требуемой VRAM — примерно 689, 682 и 438 ГБ), а gpt-oss:120b помещается без квантизации и оставляет запас под параллельные реплики.

Характеристики

Для каких задач подходит

• Инференс и RAG. Большой общий объём VRAM позволяет одновременно запускать чат, эмбеддинги, rerank и суммаризацию, не деля ресурсы с другими узлами.
• Дообучение и обучение. Multi-GPU конфигурация подходит для fine-tuning и отдельных задач обучения с параллелизмом tensor/pipeline.
• Генерация изображений и видео. В описании указана совместимость с SDXL, Flux.2-dev, SD Turbo и Kandinsky 5.0: очереди задач легко распределяются по восьми картам.
• Рендеринг и видеоаналитика. Можно запускать разные модели и потоки детекции и трекинга на отдельных GPU. Модели, которым не хватает 96 ГБ на карту, работают в распределённом режиме на 2–8 GPU.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки.

Характеристики