Купить Supermicro 4124GS-TNR: 6× NVIDIA A100 40GB, 2× AMD EPYC 7513, 1 ТБ RAM — в СервакМастер

Сервер Supermicro 4124GS-TNR: мощность для задач искусственного интеллекта и HPC

Supermicro 4124GS-TNR — это профессиональный 4U-сервер корпоративного класса, разработанный специально для вычислительно-интенсивных задач: обучения нейронных сетей, запуска больших языковых моделей, высокопроизводительных научных расчётов и работы с массивами данных. В магазине СервакМастер этот сервер доступен в конфигурации с шестью GPU NVIDIA A100 40GB и двумя процессорами AMD EPYC 7513, что делает его одним из наиболее производительных решений в своём классе.

Ключевые характеристики и комплектация

Вычислительные ускорители NVIDIA A100 40GB — 6 штук

Сервер оснащён шестью видеокартами NVIDIA A100 с памятью HBM2e объёмом 40 ГБ каждая. Суммарный объём видеопамяти составляет 240 ГБ, что открывает возможность работы с очень крупными моделями целиком в GPU-памяти без необходимости разбивки на части. Архитектура Ampere, лежащая в основе A100, обеспечивает поддержку тензорных операций третьего поколения (Tensor Cores Gen 3) и специализированных инструкций для работы с форматами FP64, FP32, FP16, BF16 и INT8 — это критически важно при обучении трансформеров, диффузионных моделей и задач компьютерного зрения.

Производительность одного ускорителя A100 40GB:

• FP64: до 9,7 TFLOPS
• FP32: до 19,5 TFLOPS
• TF32 (Tensor Core): до 156 TFLOPS
• FP16 / BF16 (Tensor Core): до 312 TFLOPS
• INT8 (Tensor Core): до 624 TOPS

Шесть ускорителей в связке дают суммарную пиковую производительность на уровне 1,8 PFLOPS в формате INT8 — это сопоставимо с небольшим вычислительным кластером.

Процессоры AMD EPYC 7513 — 2 штуки

Два процессора AMD EPYC 7513 (кодовое имя Milan) обеспечивают серверу мощную процессорную основу. Каждый чип содержит 32 ядра и 64 потока, работающих на базовой частоте 2,6 ГГц с возможностью Boost до 3,65 ГГц. В двухпроцессорной конфигурации доступны 64 физических ядра и 128 логических потоков — более чем достаточно для параллельного препроцессинга данных, управления несколькими GPU-заданиями одновременно и запуска вспомогательной инфраструктуры (хранилища, сети, оркестрации).

Процессоры EPYC 7513 выполнены по техпроцессу 7 нм и поддерживают:

• до 8 каналов памяти DDR4 на сокет (16 каналов суммарно)
• 128 линий PCIe 4.0 на сокет
• NUMA-архитектуру для оптимального распределения нагрузки между GPU и CPU

Оперативная память — 1 ТБ DDR4 ECC REG

Сервер комплектуется 1024 ГБ оперативной памяти стандарта DDR4 ECC REG (с коррекцией ошибок). Такой объём RAM обеспечивает:

• размещение в памяти крупных датасетов целиком, без промежуточной записи на диск;
• работу нескольких независимых задач обучения или инференса одновременно;
• эффективный кэш для систем хранения и баз данных, используемых совместно с ML-пайплайнами.

ECC-память критически важна для продолжительных вычислительных задач: единственная необнаруженная битовая ошибка может нарушить обучение модели на часах или сутках работы. Registered (буферизованная) память обеспечивает стабильность при работе с большим количеством модулей.

Форм-фактор и платформа

Supermicro 4124GS-TNR выполнен в форм-факторе 4U и рассчитан на установку в стандартную 19-дюймовую стойку. Шасси спроектировано с учётом высокой плотности размещения GPU: специальная система воздушного охлаждения с несколькими зонами обдува позволяет эффективно отводить тепло от шести ускорителей A100 даже при длительной нагрузке близкой к 100%. Платформа поддерживает высокоскоростное соединение NVLink / NVSwitch (в зависимости от конфигурации ускорителей) и интерконнект через шину PCIe 4.0.

Применение

Обучение и дообучение нейронных сетей

Сервер идеально подходит для обучения «с нуля» и дообучения (fine-tuning) больших языковых моделей (LLM), диффузионных моделей изображений и видео, трансформерных архитектур для задач NLP и компьютерного зрения. 240 ГБ суммарной VRAM позволяют размещать модели с десятками миллиардов параметров без техники CPU offloading.

Инференс и деплой моделей

Благодаря высокой пропускной способности памяти HBM2e и поддержке INT8/FP16 сервер обеспечивает низкую задержку при обработке запросов к уже обученным моделям. Это делает его подходящим для production-деплоя крупных моделей с требованиями к latency.

RAG-системы и векторный поиск

Комбинация большого объёма RAM (1 ТБ) и GPU-памяти (240 ГБ) делает систему эффективной платформой для Retrieval-Augmented Generation: векторные базы данных, встраиваемые модели и LLM-ядро могут работать одновременно без вытеснения данных.

Научные расчёты (HPC)

Поддержка FP64 в A100 на уровне 9,7 TFLOPS на карту делает сервер пригодным для задач молекулярного моделирования, CFD-симуляций, анализа климатических данных и других дисциплин, требующих двойной точности вычислений.

Анализ данных

Высокопроизводительные процессоры EPYC 7513 совместно с GPU-ускорением (библиотеки RAPIDS, cuDF, cuML) обеспечивают ускоренную обработку больших таблиц и датафреймов, задачи feature engineering и подготовки датасетов для ML.

Преимущества покупки в СервакМастер

• Гарантия 1 год с заменой вышедших из строя компонентов
• Тестирование перед отправкой: каждый сервер проходит стресс-тест и диагностику GPU и памяти
• Доставка по всей России: работаем со службами доставки по Москве, Санкт-Петербургу и другим регионам
• Консультация специалиста: поможем подобрать оптимальную конфигурацию под ваши задачи — свяжитесь с нами
• Корпоративные поставки: возможно оформление по безналичному расчёту с закрывающими документами

Технические характеристики (сводная таблица)

Для уточнения наличия, получения коммерческого предложения или технической консультации — свяжитесь с нами через форму на сайте СервакМастер.

Характеристики