Введение

За последние годы китайская ИИ-индустрия совершила стремительный рывок: нейросети DeepSeek и Qwen показали, что производительные языковые модели можно создавать значительно дешевле, чем считалось ранее, и тем самым заметно изменили расстановку сил на мировом рынке искусственного интеллекта. Одновременно с этим власти США расширяли ограничения на поставку в Китай оборудования для обучения и инференса ИИ, что подтолкнуло китайские компании к ускоренному развитию собственного производства ускорителей — импортозамещение в этой сфере стало не просто желательным, а насущным вопросом. Одним из результатов этого процесса стали ИИ-ускорители Kunlun, разработанные корпорацией Baidu. В этом материале мы разберем, как устроена линейка Kunlun, на какой архитектуре она основана и какие устройства в нее входят.

Baidu как разработчик ИИ-оборудования

Baidu — одна из крупнейших ИТ-компаний Китая, основанная в 2000 году. Изначально компания развивала веб-сервисы: поисковую систему, облачные хранилища и облачные вычисления. В последние годы заметную роль стало играть подразделение AI Cloud, которое развивает собственные языковые модели Ernie 4.5 и Ernie X1. Эти модели конкурируют с китайскими LLM DeepSeek R1 и Qwen3, выделяясь низкой стоимостью генерации токенов через API, — во многом благодаря этому решения Baidu стали заметнее использоваться в корпоративной среде за пределами Китая. Если раньше около 98% аудитории сервисов Baidu приходилось на внутренний рынок, то с распространением чат-ботов на базе Ernie доля зарубежных пользователей AI Cloud заметно выросла.

Чтобы обеспечить свои ИИ-кластеры достаточными вычислительными мощностями и продолжать обучение и совершенствование собственных моделей, Baidu занялась разработкой собственных ИИ-процессоров под названием Kunlun. В 2021 году подразделение, отвечавшее за эти чипы, выделилось из Baidu в отдельную компанию — Kunlunxin, которая с тех пор развивает линейку самостоятельно.

От FPGA-прототипов к архитектуре XPU

Работа над ИИ-чипами в Baidu началась еще в 2011 году: тогда компания использовала собственные FPGA-схемы для создания первых прототипов ускорителей для глубокого обучения с интегрированным графическим ядром, название которого не раскрывалось. Спустя семь лет, 4 июля 2018 года, на конференции Baidu AI 2018 компания представила первый полнофункциональный облачный чип для обучения моделей ИИ — Kunlun 818-300 (о нем подробнее ниже).

В основе всех последующих решений линейки Kunlun лежит фирменная архитектура нейронного процессора (NPU) под названием XPU. Она сочетает интегрированную SRAM с поддержкой памяти форматов DDR и HBM, что позволяет эффективно выполнять операции искусственного интеллекта. На первом этапе, когда полноценных XPU-чипов еще не существовало, архитектура была реализована в виде FPGA-ускорителя на 256 ядер с частотой 600 МГц. XPU поддерживает высокий уровень параллелизма и матричные вычисления, обладает высокой пропускной способностью, но при этом не имеет встроенного кэша. На раннем этапе у архитектуры не было и собственной программной библиотеки — команды для ядер прописывались напрямую через ассемблер и вызов логических функций.

Если внимательно изучить схему XPU, заметно ее структурное сходство с архитектурой MIPS, применяемой в процессорах для IoT и других встраиваемых систем, — это может указывать на родство подходов. В дальнейшем Baidu развила архитектуру в двух направлениях, которые легли в основу линеек ускорителей Kunlun: XPU-K и XPU-R.

Kunlun Core K: первое поколение чипов

Kunlun Core K — это серия ИИ-решений на базе NPU-процессоров Kunlun 818-100 и 818-300. Оба чипа принадлежат к первому поколению Kunlun Core, но рассчитаны на разные задачи: 818-100 оптимизирован под инференс, а 818-300 — под обучение языковых моделей. Такое разделение по сценариям использования напоминает подход Huawei в линейках Ascend и Atlas, которая также делит свои NPU-чипы по назначению. Позднее, впрочем, семейство Kunlun унифицировалось, и для производства разнотипных ускорителей компания стала использовать единый тип NPU-чипов.

Kunlun 818-100

Kunlun 818-100 построен на архитектуре XPU-K первого поколения и изготовлен по 14-нм техпроцессу Samsung — на момент выпуска в 2018 году у китайских фабрик SMIC не было подходящих для этого мощностей, а отношения с тайваньским TSMC оставались напряженными. Для упаковки чипа применялась технология гетерогенного корпусирования Samsung I-Cube, при которой логический кристалл (в данном случае NPU) и несколько кристаллов памяти HBM размещаются в одной плоскости поверх кремниевого интерпозера. Благодаря такой упаковке несколько кристаллов работают как единое целое внутри одного корпуса, что повышает отказоустойчивость и энергоэффективность готового решения. Фактически именно производственные и упаковочные технологии Samsung позволили Baidu реализовать архитектуру XPU в виде готовых процессоров 818-100 и 818-300, поскольку альтернативных путей выпуска на тот момент не было.

Kunlun 818-100 оснащен памятью HBM2 объемом 8 ГБ. По современным меркам это немного, но нужно учитывать контекст: устройство вышло в 2021 году, когда языковые модели были значительно компактнее, а стеки HBM оставались дорогим компонентом.

Основные характеристики Kunlun 818-100:

Характеристика Значение
Архитектура XPU-K
Память 8 ГБ HBM2
Пропускная способность памяти 256 ГБ/с
Интерфейс PCIe 4.0 x8
Производительность INT8 128 TOPS
Производительность FP16 32 TFLOPS
Производительность FP32 8 TFLOPS
TDP 75 Вт

Согласно опубликованным Kunlunxin схемам, чипы на базе XPU-K содержат 128 тензорных ядер собственной разработки под названием SDNN, которые ускоряют операции матричного умножения за счет массива MAC (multiply-accumulate). Известно, что Kunlun 818-100 применялся в разработке голосового помощника Baidu DuerOS. Для инференса китайских языковых моделей процессор поддерживает нативную интеграцию с фреймворком PaddlePaddle от Baidu, а также совместим с TensorFlow, PyTorch, Caffe и рядом библиотек для машинного зрения и автономного вождения. Отдельного внимания заслуживает собственный программный стек Baidu: компилятор XTDK для C/C++, тензорный компилятор XTCL и библиотека XDNN с набором алгоритмов для математических и ИИ-вычислений.

Kunlun AI K100

На базе процессора Kunlun 818-100 Baidu выпустила карты расширения для инференса Kunlun AI K100. Их характеристики полностью повторяют параметры чипа: один стек памяти HBM2 объемом 8 ГБ с пропускной способностью 256 ГБ/с и пиковая производительность до 128 TOPS в INT8. Компактный корпус с пассивным охлаждением делает эти карты удобными для интеграции в серверные системы, хотя ограниченный объем видеопамяти сужает круг применимых сценариев. Baidu позиционировала Kunlun AI K100 прежде всего как решение для периферийных вычислений, где важны низкое энергопотребление и небольшие габариты, — энергопотребление в 75 Вт позволяет питать карту напрямую от слота PCIe. Поскольку Baidu использовала эти карты в собственной инфраструктуре, не исключено, что у компании имелись внутренние инструменты для объединения ресурсов нескольких устройств (до 8 карт в одной системе), однако подтвердить это невозможно — подобная информация, если она существует, не публикуется.

Baidu Kunlun 818-300

Kunlun 818-300 — процессор для обучения языковых моделей, во многом схожий с 818-100. Он также построен на архитектуре XPU-K первого поколения и изготовлен по 14-нм техпроцессу. Поскольку это решение применялось преимущественно во внутренней инфраструктуре Baidu, подробные характеристики компания не раскрывала. Известно, что TDP чипа увеличен до 150 Вт, он поддерживает вычисления в FP16 и FP32, обеспечивает производительность до 256 TOPS в INT8, а также оснащен памятью HBM2 объемом 16 ГБ с пропускной способностью 512 ГБ/с. В остальном 818-300 соответствует своему собрату для инференса — как в аппаратной части, так и по совместимости с ИИ-фреймворками. По заявлению Baidu, производительность обоих NPU первого поколения — 818-100 и 818-300 — примерно в 30 раз превышает эффективность первого FPGA-варианта XPU.

Kunlun AI K200

Процессор 818-300 лежит в основе полнопрофильной карты Kunlun AI K200, предназначенной для обучения передовых моделей ИИ, а также для использования в облачных, периферийных и автомобильных вычислительных системах. Карта подключается через интерфейс PCIe Gen4 x8 и имеет TDP 160 Вт. По заявлению Baidu, в чистой производительности решение уступает Nvidia T4 — своему основному ориентиру для сравнения на тот момент, — но превосходит его по энергоэффективности. Поскольку показатели Kunlun AI K200 ровно вдвое выше показателей K100, логично предположить, что в карте используются два NPU-чипа XPU-K, объединенные с помощью той же технологии упаковки Samsung I-Cube.

Производительность Kunlun AI K200:

  • INT8 — 256 TOPS
  • FP16 — 64 TFLOPS
  • FP32 — 16 TFLOPS

Как и K100, карта K200 использует пассивное охлаждение, что делает ее пригодной для построения серверов ЦОД, а 16 ГБ видеопамяти позволяют разворачивать более крупные модели, чем на предшественнике. При этом двухслотовый, полнопрофильный форм-фактор ограничивает число ускорителей K200, которые можно установить в одном сервере.

Kunlun Core R: второе поколение и архитектура XPU-R

В 2021 году уже отделившаяся от Baidu компания Kunlunxin представила линейку NPU-чипов второго поколения на обновленной архитектуре XPU-R — устройства на ее основе получили название Kunlun Core R. В отличие от поколения K, здесь компания отказалась от разделения на отдельные чипы для инференса и обучения, использовав единое ядро для обеих задач. При этом линейка предложила заметно более широкий ассортимент устройств.

Kunlun 2

Kunlun 2 — NPU-процессор 2021 года на архитектуре XPU-R, изготовленный по 7-нм техпроцессу. По заявлениям Kunlunxin, он обеспечивает двух-трехкратный прирост производительности относительно чипов первого поколения: до 768 TOPS в INT8, до 192 TFLOPS в FP16 и до 48 TFLOPS в FP32. Если эти цифры точны, по формальным показателям Kunlun 2 приближается к Nvidia A100 (19,5 TFLOPS в FP32, 624/1248 TOPS в INT8). Впрочем, к прямому сопоставлению стоит относиться осторожно: A100 поддерживает режим тензорных вычислений, который кратно увеличивает реальную производительность в перечисленных режимах и заметно превосходит показатели Kunlun 2 на практике. Чип поддерживает интерфейс PCIe 4.0 x16 и лег в основу сразу нескольких продуктов: карт расширения R100, R200 и R300, ускорителя RG800 и GPU-сервера Core AI Accelerator Group R480-X8.

Kunlun R100

Kunlun R100 — низкопрофильная карта для инференса, впервые представленная на форуме Smart Computing Summit 2022 Smart Core Power. Производительность в INT8 достигает 170 TOPS; поддерживаются также режимы FP16 и FP32, однако конкретные показатели по ним Kunlunxin не раскрывает. В отличие от решений на XPU-K, здесь используется память GDDR6 с пропускной способностью 384 ГБ/с (точный объем не указан, предположительно 16 ГБ). Переход со стеков HBM2 на GDDR6 выглядит нетипично для ИИ-ускорителя, поскольку HBM обычно эффективнее в подобных задачах, — возможных причин может быть несколько: от экономических соображений Kunlunxin до ограничений на поставку HBM-памяти со стороны Samsung на фоне санкций. Отдельно отмечается поддержка 27 каналов вывода видео в Full HD и параллельная обработка до 84 видеопотоков того же разрешения — это указывает, что R100 позиционируется не только как чип для ИИ-инференса, но и как универсальное решение для транскодирования видео. Похожий акцент на видеоаналитике встречается и в линейках Ascend/Atlas от Huawei, что может говорить о высоком спросе в Китае на карты с поддержкой транскодирования для систем видеонаблюдения. По заявлению Kunlunxin, R100 превосходит K100 по производительности в 2,3 раза при более высокой энергоэффективности (точный TDP не публикуется).

Kunlun R200

Kunlun R200 — усовершенствованная версия R100 на той же архитектуре XPU-R. Производительность увеличена до 256 TOPS в INT8 и 128 TFLOPS в FP16, а объем видеопамяти GDDR6 вырос до 32 ГБ при пропускной способности до 512 ГБ/с. В отличие от предшественника, это уже решение и для инференса, и для обучения LLM: помимо транскодирования видео с аппаратным кодированием/декодированием и многоканальной обработкой, карта рассчитана на задачи обработки естественного языка, машинного зрения и распознавания речи. Поскольку R200, в отличие от R100, выполнен в двухслотовом форм-факторе, его TDP предположительно превышает 150 Вт, что позволяет чипу работать на более высоких частотах и обеспечивает прирост производительности.

Kunlun R300

Kunlun R300 — это OAM-модуль на базе процессора Kunlun Core 2, предназначенный для интеграции по восемь штук в UBB-платы Core AI Accelerator Group R480-X8, где модули объединяются в единую вычислительную систему. Такой же модульный подход применяют и другие крупные производители ИИ-оборудования, включая Nvidia, для построения высокопроизводительных систем под задачи дата-центров.

Kunlun RG800

RG800 — PCIe-карта на архитектуре XPU-R, предназначенная для интеграции в ИИ-ориентированные дата-центры и обучения передовых LLM, включая параллельное обучение для высоконагруженных приложений. По характеристикам решение совпадает с R200, поэтому его можно считать облегченной модификацией с оптимизированным TDP на уровне 130 Вт. В целом по продуктовой линейке Kunlunxin заметна тенденция удерживать TDP в определенных рамках: компания в первую очередь ориентируется на энергоэффективность, а не на максимальную производительность, поскольку многие ускорители Kunlun применяются во встраиваемых системах.

Core AI Accelerator Group R480-X8

R480-X8 — специализированная UBB-плата, поддерживающая интеграцию до восьми NPU-процессоров Kunlun Core второго поколения через межчиповое соединение с пропускной способностью до 200 ГБ/с. Чипы подключаются к плате не напрямую, а через OAM-модули R300. В максимальной конфигурации система обеспечивает 256 ГБ памяти GDDR6, а суммарная производительность достигает 1 PFLOPS в FP16. Платы R480-X8 могут объединяться в полноценные вычислительные кластеры для обучения и инференса крупных моделей.

По архитектурному подходу R480-X8 похож на решения Nvidia HGX — модульные GPU-системы для интеграции в оборудование OEM-производителей. При этом флагманские системы Nvidia, например HGX NVL16 на базе B300, значительно превосходят R480-X8 по всем параметрам: по объему памяти (2,3 ТБ HBM3e против 256 ГБ GDDR6), пропускной способности (1,8 ТБ/с на GPU) и ИИ-производительности (105 PFLOPS в FP4).

Kunlun P800: третье поколение архитектуры

Kunlun P800 — самое современное на сегодня решение Kunlunxin, построенное на архитектуре XPU третьего поколения и анонсированное в 2024 году. Для создания ядер XPU 3 применяется технология транзисторов FinFET, где вместо традиционного плоского канала используется трехмерный канал в форме плавника — это снижает энергопотребление и повышает производительность при сохранении компактных размеров чипа. Полнопрофильные карты на базе P800 для обучения ИИ пока не вышли на массовый рынок, поэтому подробных официальных характеристик немного: известно о наличии памяти GDDR6, а также о поддержке форматов вычислений FP32, FP16, TF32 и INT8 с заявленными показателями до 30 TFLOPS в FP32 и до 50 TFLOPS в TF32. Заявленная скорость генерации токенов достигает 4825 токенов в секунду при задержке менее 50 нс. Ряд китайских источников также указывает, что памяти P800 достаточно для локального развертывания моделей DeepSeek R1/V3, хотя степень их сжатия для этого не уточняется.

Сейчас ускорители Kunlun P800 используются в собственных вычислительных кластерах Baidu — Smart Cloud (10 000 ускорителей) и P8 Million (30 000 ускорителей). Обе системы применяются для обучения крупных языковых моделей — как DeepSeek R1/V3, так и семейства Ernie от самой Baidu. Для интеграции P800, как и в случае с R200, используются UBB-платы Core AI Accelerator Group R480-X8.

Отдельно Kunlunxin анонсировала серверные стойки Kunlun Core Super Node, вмещающие до 64 ускорителей Kunlun P800. По заявлению компании, такая конфигурация обеспечивает десятикратное ускорение обучения нейросетей и тринадцатикратное ускорение инференса по сравнению с отдельными картами. По назначению и масштабу эти стойки можно сравнить с системами Nvidia серии NVL.

Заключение

Линейка ИИ-решений Kunlun наглядно показывает, насколько серьезно Китай инвестирует в развитие собственной инфраструктуры для искусственного интеллекта. NPU-чипы на архитектуре XPU прошли путь от FPGA-прототипов до третьего поколения, а PCIe-карты Kunlun ориентированы прежде всего на энергоэффективность, что позволяет использовать их как для локального развертывания моделей, так и для построения GPU-кластеров под обучение новых версий LLM. Заслуживает внимания и универсальность отдельных карт линейки — помимо ИИ-вычислений, часть решений эффективно справляется с транскодированием видео, что делает их пригодными для бюджетных систем видеонаблюдения. Пока ускорители Kunlun ориентированы главным образом на внутренние потребности Baidu, но не исключено, что в обозримом будущем они станут заметнее и на открытом китайском рынке. Стоит добавить, что в процессе изучения линейки Kunlun мы не раз сталкивались с интересными ИИ-ускорителями и других китайских компаний — о них мы обязательно расскажем в следующих материалах.