Сервер Supermicro 747BTQ-R2K04B на 4× Tesla P100 16GB, 2× Xeon E5 2697v4, 256 ГБ RAM

Обзор: GPU-сервер 4U для инференса и дообучения нейросетей

Supermicro 747BTQ-R2K04B - это четырёхъюнитовая платформа, в которой установлены четыре ускорителя NVIDIA Tesla P100 на архитектуре Pascal. Каждая карта несёт по 16 ГБ памяти HBM2, в сумме получается 64 ГБ видеопамяти с высокой пропускной способностью. Это бюджетный способ получить многопроцессорный GPU-узел для локальных ИИ-задач.

Конфигурацию дополняют два процессора Intel Xeon E5 2697v4 и 256 ГБ серверной памяти DDR4 ECC REG. Такой набор подходит для запуска языковых и диффузионных моделей, а также для лёгкого дообучения методами LoRA и QLoRA.

Ключевые особенности

• 4× NVIDIA Tesla P100 16GB HBM2 - 64 ГБ суммарной VRAM для распределения модели по нескольким GPU.
• Работа в смешанных режимах FP16/FP32; совокупная мощность четырёх карт по данным поставщика: 74.8 TFLOPS (FP16), 37.2 TFLOPS (FP32), 18.8 TFLOPS (FP64).
• Два Intel Xeon E5 2697v4 (18 ядер / 36 потоков, 2.3-3.6 ГГц) на плате Supermicro X10DRG-Q.
• 8× 32 ГБ DDR4 ECC REG 2400 МГц, всего 256 ГБ; плата допускает 24 слота DIMM.
• Накопители: SSD Intel S4610 960 ГБ и HDD Seagate SkyHawk AI 12 ТБ.
• Активные кулеры COOLSERVER SNK-P0050APS4 на обоих процессорах.
• По описанию поставщика, подходит для работы с vLLM, TensorRT и PyTorch.

Характеристики

Для каких задач подходит

• Инференс LLM с распределением по четырём GPU. По данным поставщика, DeepSeek-R1 70B в квантизации Q4_K_M (около 60 ГБ VRAM) работает через vLLM с tensor-parallel.
• Запуск моделей класса Qwen 27B без квантизации: потребуется около 55.6 ГБ, запас VRAM ограничен, поэтому лучше умеренный контекст и размер батча.
• Генерация изображений: Stable Diffusion XL и Flux, совместимые с CUDA 11.4+.
• Дообучение методами LoRA и QLoRA, аналитика данных и развёртывание генеративных сервисов.

Важное ограничение: Tesla P100 не поддерживает FP8 и INT8-инференс, поэтому для задач, где критична предельная оптимизация производительности, стоит рассмотреть более новые ускорители.

Состояние, проверка и доставка

Сервер поставляется как Б/У. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России через СДЭК и другие ведущие службы. Если нужна консультация по подбору конфигурации под вашу модель, обратитесь к менеджерам магазина.

Характеристики