AMD Instinct MI300X — GPU-серверы с 192 ГБ HBM3 для ИИ и HPC | СервакМастер

AMD Instinct MI300X: серверная платформа для задач глубокого обучения и HPC

AMD Instinct MI300X — это флагманский вычислительный ускоритель AMD, построенный на гетерогенной архитектуре APU нового поколения. Объём встроенной памяти HBM3 в 192 ГБ и производительность до 2 613 ТФЛОПС по формату FP8 делают его одним из наиболее ёмких GPU-ускорителей на рынке. В каталоге «СервакМастер» представлены готовые серверные узлы с MI300X от ведущих производителей — для дата-центров, облачных провайдеров и исследовательских организаций.

Архитектура и ключевые технические параметры

В основе AMD Instinct MI300X лежит архитектура CDNA 3, в которой вычислительные ядра и высокоёмкая память HBM3 интегрированы в единый корпус с помощью технологии 3D-чиплетного стекирования. Такой подход устраняет узкое место пропускной способности шины и обеспечивает рекордно низкие задержки обращения к данным.

Основные характеристики ускорителя:

• 192 ГБ памяти HBM3 — наибольший объём on-package памяти среди серийно выпускаемых GPU-ускорителей на момент выхода продукта
• Пропускная способность памяти 5,3 ТБ/с — критически важна для трансформерных моделей и матричных вычислений
• Производительность FP8 — 2 613 ТФЛОПС, FP64 — 163,4 ТФЛОПС
• Поддержка форматов: FP64, FP32, FP16, BF16, INT8, FP8
• TDP: 750 Вт
• Интерконнект: AMD Infinity Fabric 3.0 и PCIe 5.0

Типичная конфигурация серверного узла

Серверы с AMD Instinct MI300X поставляются в нескольких аппаратных вариантах от Supermicro, Dell, ASUS и других OEM-партнёров. Стандартный восьмиускорительный узел включает:

• 8 × AMD Instinct MI300X — суммарно 1 536 ГБ HBM3 в одном шасси
• 2 × AMD EPYC 9004 (серия Genoa/Bergamo) или Intel Xeon Scalable 4-го поколения
• Системная оперативная память: от 1 ТБ DDR5 ECC RDIMM
• Межузловой интерконнект: до 8 × 400GbE (InfiniBand HDR/NDR 400G или высокоскоростной Ethernet)
• Хранилище: NVMe U.2 / E1.S, поддержка внешних JBOF-массивов
• Форм-фактор: 4U, 8U или кастомные шасси под требования заказчика

Сценарии использования

Обучение и инференс крупных языковых моделей (LLM)

Объём памяти 192 ГБ на ускоритель позволяет размещать модели с сотнями миллиардов параметров — GPT-класса, LLaMA-2 70B, Mistral, Falcon и их производные — непосредственно в памяти одного устройства без агрессивного квантования или разбивки на шарды. Это ускоряет итерации при файн-тюнинге и снижает задержку при инференсе в продакшн-окружении.

Высокопроизводительные научные расчёты (HPC)

Полноразрядная поддержка FP64 делает MI300X пригодным для молекулярного моделирования, климатических симуляций, вычислительной гидродинамики (CFD), сейсмического анализа и других задач, требующих максимальной точности с плавающей точкой.

Рекомендательные системы и обработка больших данных

Большой объём HBM3 позволяет хранить гигантские embedding-таблицы непосредственно в GPU, что критично для рекомендательных движков крупных маркетплейсов, стриминговых платформ и рекламных систем с высокой нагрузкой.

Генеративный ИИ и мультимодальные модели

Диффузионные модели изображений и видео, мультимодальные трансформеры (LLaVA и аналоги), системы синтеза речи и другие генеративные архитектуры эффективно используют высокую пропускную способность памяти MI300X.

Программная экосистема ROCm

AMD развивает открытую платформу ROCm (Radeon Open Compute), обеспечивающую совместимость MI300X с популярными фреймворками и инструментами:

• PyTorch 2.x — нативная поддержка ROCm, полный набор операций для обучения и инференса
• TensorFlow / Keras — официальные сборки с поддержкой AMD GPU
• JAX — для исследовательских задач и трансформерных архитектур
• vLLM, DeepSpeed, Megatron-LM — оптимизированный инференс и распределённое обучение LLM
• HIP — API, синтаксически совместимый с CUDA; упрощает перенос кода с NVIDIA-платформ
• OpenCL / OpenMP — поддержка широкого класса HPC-приложений

Сравнение с NVIDIA H100 SXM

Для задач, где объём памяти является узким местом — обучение больших моделей, рекомендательные системы с крупными embedding-таблицами, — MI300X превосходит H100 SXM по плотности памяти в 2,4 раза.

Заказ и конфигурация в «СервакМастер»

Мы предлагаем несколько форматов поставки:

• Одноузловые серверы с 4 или 8 × MI300X — оптимальный старт для вычислительного кластера
• Кластерные решения «под ключ» с настроенным интерконнектом, системой управления и мониторинга
• Кастомные конфигурации под конкретные задачи нагрузки и бюджет — подготовим расчёт по запросу

Специалисты «СервакМастер» помогут выбрать оптимальную платформу с учётом ваших требований к производительности и масштабируемости. Доставка по Москве, Санкт-Петербургу и другим городам России. На всё поставляемое оборудование предоставляется официальная гарантия производителя и техническая поддержка после продажи.

Оставьте заявку через форму на сайте или опишите задачу — мы свяжемся для уточнения конфигурации и условий поставки.