Сервер HPE ProLiant XL675d Gen10 Plus с 8× NVIDIA A100 SXM 80GB

Обзор: восьмиGPU-узел для ИИ и HPC

HPE ProLiant XL675d Gen10 Plus — вычислительный узел семейства Apollo 6500, рассчитанный на плотные multi-GPU нагрузки. В этой конфигурации установлена плата NVIDIA HGX A100 с восемью ускорителями A100 SXM по 80 ГБ HBM2e, то есть 640 ГБ видеопамяти на узел.

Такой объём позволяет запускать крупные языковые модели в распределённом режиме и оставлять запас под KV-cache при росте контекста и числа параллельных запросов. Топология HGX с активным обменом между GPU особенно полезна при tensor- и pipeline-параллелизме.

Ключевые особенности

• 8× NVIDIA A100 SXM 80GB с памятью HBM2e, суммарно 640 ГБ VRAM.
• Два процессора AMD EPYC 7003 серии (Socket SP3).
• До 4 ТБ оперативной памяти DDR4 SmartMemory, 32 слота DIMM (по 16 на сокет).
• До 16 накопителей формата SFF с интерфейсами SAS, SATA и NVMe, опционально M.2.
• Форм-фактор 6U в составе платформы Apollo 6500.
• Совокупная производительность восьми A100: 4 992 TFLOPS в BF16/FP16 Tensor Core, 2 496 TFLOPS в TF32, 156 TFLOPS в FP64 Tensor Core, 9 984 TOPS в INT8.

Характеристики

Для каких задач подходит

• Обучение и дообучение моделей, включая распределённые схемы на 4–8 GPU.
• Инференс и промышленный сервинг больших LLM: по оценкам из описания, в 4-битной квантизации на узле помещаются модели класса DeepSeek-R1 685B (около 404 ГБ) и Mistral-Large-3 675B (около 407 ГБ), а Gpt-oss:120b (около 196 ГБ) часто достаточно 2–4 GPU.
• RAG-системы, анализ данных и научные расчёты (HPC).
• Генерация изображений и видео диффузионными моделями, например Stable Diffusion XL и Flux.2-dev, с масштабированием по нескольким GPU.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами доставки. Если нужна конфигурация под ваши задачи и бюджет, свяжитесь с менеджером — он подберёт подходящий вариант.

Характеристики