Сервер NVIDIA DGX A100: 8× A100 SXM 80GB, 2× EPYC 7742, RAM 1TB

NVIDIA DGX A100: вычислительная платформа для задач ИИ и HPC

NVIDIA DGX A100 — готовый 5U-сервер, в котором восемь ускорителей A100 SXM на архитектуре Ampere объединены в одну систему с суммарными 640 ГБ видеопамяти HBM2e. Это платформа для тяжёлых нагрузок: обучения и дообучения нейросетей, инференса крупных языковых моделей, RAG-систем, анализа данных и научных расчётов.

Большой объём VRAM позволяет держать крупные LLM и большие батчи прямо на GPU, без постоянного обмена с оперативной памятью процессора. Ускорители хорошо работают в экосистеме CUDA: PyTorch, TensorRT, NCCL, vLLM и других популярных инструментах. Важное уточнение: A100 — это не Hopper, поэтому FP8 здесь недоступен, и для сверхнизкой точности H100 будет эффективнее. Это вычислительная система для ML и HPC, а не графическая станция для рендера.

Ключевые особенности

• 8 ускорителей NVIDIA A100 SXM 80GB, суммарно 640 ГБ памяти HBM2e.
• Два процессора AMD EPYC 7742 (64 ядра / 128 потоков каждый, 2.25–3.4 ГГц, 225 Вт).
• 1 ТБ оперативной памяти DDR4 ECC REG.
• 8 портов QSFP56 на сетевых картах NVIDIA ConnectX-6 с поддержкой 200 Gbe InfiniBand/Ethernet — для кластерных конфигураций и быстрых хранилищ.
• Совокупная производительность восьми GPU: 4 992 TFLOPS в BF16/FP16 Tensor Core, 2 496 TFLOPS в TF32, 156 TFLOPS в FP64 Tensor Core и 9 984 TOPS в INT8.
• Запас по памяти для квантизированных LLM класса сотен миллиардов параметров (например, 4-битные версии DeepSeek-R1 685B или Mistral Large 3 675B) при распараллеливании на 4–8 GPU и аккуратной настройке контекста и батча.

Характеристики

Для каких задач подходит

• Обучение и дообучение (fine-tuning) моделей, в том числе крупных LLM.
• Продакшн-инференс языковых моделей и RAG-сервисов: платформа комфортно размещает модели вроде gpt-oss:120b на 2–4 GPU с большим запасом под KV-cache и параллельные запросы.
• Генерация изображений и видео диффузионными моделями (Stable Diffusion XL, Flux.2-dev, Kandinsky 5.0) с масштабированием очередей по нескольким GPU.
• Научные расчёты HPC и задачи Data Science, где важны FP64 и высокая пропускная способность памяти.

Поставка и гарантия

Сервер поставляется в новом состоянии. Перед отправкой «СервакМастер» тестирует оборудование, на товар действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки.

Характеристики