GPU-сервер HPE DL380a Gen12: 8× RTX PRO 6000 BSE 96GB, 2× Xeon 6760P, 1 ТБ RAM
HPE ProLiant DL380a Gen12 с восемью GPU Blackwell
HPE DL380a Gen12 — плотный 4U-сервер, рассчитанный на ускорители. В этой конфигурации в него установлены восемь NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 ГБ GDDR7, то есть 768 ГБ видеопамяти в одном узле. Систему дополняют два процессора Intel Xeon 6760P и 1 ТБ оперативной памяти DDR5 ECC REG.
Такой объём VRAM позволяет запускать крупные языковые модели без агрессивной квантизации, распределяя их по нескольким GPU (tensor/pipeline parallel) в vLLM или TensorRT-LLM. Либо можно держать на одном сервере несколько независимых сервисов и реплик.
Ключевые особенности
- 8× NVIDIA RTX PRO 6000 Blackwell Server Edition, 96 ГБ GDDR7 каждая, всего 768 ГБ VRAM.
- Совокупная производительность восьми GPU: FP32 — 960 TFLOPS, FP4 — 32 PFLOPS, RT Core — 2840 TFLOPS.
- 2× Intel Xeon 6760P (64 ядра / 128 потоков, 2,2–3,8 ГГц, 330 Вт).
- 16× 64 ГБ DDR5 ECC REG SK Hynix 6400 МГц, 2Rx4 — 1024 ГБ.
- 8× SSD Solidigm D7-P5620 3,2 ТБ, 2,5" U.2.
- По данным поставщика, в память помещаются, например, DeepSeek-R1 685B (около 689 ГБ), Mistral-Large-3-675B (около 682 ГБ), GigaChat3.5-432B (около 438 ГБ) и gpt-oss:120b (около 196 ГБ).
- Подходит для диффузионных моделей — Stable Diffusion XL, Flux.2-dev, Kandinsky-5.0: очередь удобно распределять по GPU.
Характеристики
| Параметр | Значение |
|---|---|
| Платформа | HPE ProLiant DL380a Gen12, 4U |
| Видеокарты | 8× NVIDIA RTX PRO 6000 Blackwell Server Edition 96GB GDDR7 |
| Общий объём VRAM | 768 ГБ |
| Процессоры | 2× Intel Xeon 6760P (64c/128t, 2,2–3,8 ГГц, 330 Вт) |
| Оперативная память | 16× 64 ГБ DDR5 ECC REG 6400 МГц, 1024 ГБ |
| Накопители | 8× Solidigm D7-P5620 3,2 ТБ, 2,5" U.2 |
| FP32 (8 GPU) | 960 TFLOPS |
| FP4 (8 GPU) | 32 PFLOPS |
| Состояние | Новое |
Для каких задач подходит
- Инференс и развёртывание больших LLM, включая модели объёмом в сотни гигабайт.
- Дообучение (fine-tuning) и обучение моделей, когда нужна высокая параллельность.
- RAG-системы и агентные пайплайны с высокой нагрузкой и длинным контекстом.
- Генерация изображений и коротких видео на диффузионных моделях.
- Визуализация, рендеринг и видеоаналитика: ресурсы GPU можно выделять разным командам и задачам.
Состояние, проверка и поставка
Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки.
Характеристики
| Тип | Новые |
| Основная задача | Обучение моделей / Инференс / Дообучение моделей / RAG-системы / Визуализация и рендеринг |
| Процессор (CPU) | Intel Xeon 6-series |
| Видеокарта (GPU) | NVIDIA RTX PRO 6000 Blackwell |
| Количество GPU, шт | 8 |
| Общий объем видеопамяти (VRAM), ГБ | 768 |
| Тип памяти GPU | GDDR7 |
| Объем оперативной памяти (RAM), ГБ | 1024 |
| Тип оперативной памяти | DDR5 ECC REG |
| Форм-фактор | 4U |