Сервер Supermicro AS-4145GH-TNMR на 4× AMD Instinct MI300A 128GB

Supermicro AS-4145GH-TNMR: 4U-платформа на четырёх APU AMD Instinct MI300A

Supermicro AS-4145GH-TNMR — серверная платформа форм-фактора 4U для задач искусственного интеллекта и высокопроизводительных вычислений. Её главное отличие в том, что в основе лежат не отдельные процессоры и видеокарты, а гибридные ускорители AMD Instinct MI300A: процессорные ядра (AMD EPYC на архитектуре Zen 4) и графический блок объединены в одном модуле и работают с общей памятью HBM3.

В этой конфигурации установлено четыре MI300A по 128 ГБ, суммарно 512 ГБ HBM3. Такая схема снимает привычное узкое место между CPU и GPU и подходит там, где критичны пропускная способность памяти и плотность вычислений в одном узле. Крупные модели запускаются в распределённом режиме на всех четырёх ускорителях.

Ключевые особенности

• Четыре APU AMD Instinct MI300A — CPU и GPU в одном корпусе, единое адресное пространство памяти.
• 512 ГБ HBM3 суммарно, по 128 ГБ на каждый ускоритель.
• Форм-фактор 4U для стандартной серверной стойки.
• Накопители: 8× 2.5" NVMe и один слот M.2 (2280/22110), интерфейс PCIe Gen5 x4.
• Универсальность задач: обучение и дообучение моделей, инференс, RAG-системы, анализ данных и научные расчёты.
• Запас под большие модели: при умеренном контексте и квантизации на такой памяти размещаются модели класса сотен миллиардов параметров.

Характеристики

Для каких задач подходит

• Инференс больших языковых моделей. Общая память 512 ГБ позволяет запускать квантизированные модели крупного размера, распределяя их по четырём ускорителям. Для длинного контекста и большого batch стоит оставлять запас по памяти.
• Обучение и дообучение моделей. Высокая пропускная способность HBM3 и плотная интеграция вычислений полезны при работе с большими весами.
• RAG-системы и корпоративные ассистенты. Часть ускорителей можно отдать под модель, остальное — под контекст и параллельные запросы.
• Генерация изображений и видео. Диффузионные пайплайны удобно распараллеливать по нескольким GPU.
• HPC и научные расчёты. Объединение CPU и GPU в одном модуле упрощает программирование и снижает накладные расходы на обмен данными.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка выполняется по России службой СДЭК и другими ведущими транспортными компаниями. Если нужна конфигурация на эту платформу под ваши задачи, свяжитесь с менеджером — мы предложим подходящий вариант под бюджет и требования.

Характеристики