В микропроцессорах Ryzen 7000 (Phoenix) компания AMD первый раз представила интегрированные ИИ-движки либо NPU Xilinx (XDNA) с производительностью до 10 TOPS. За ним последовали Ryzen 8000 (Hawk Point) с производительностью NPU до 16 TOPS. Но только после анонса серии Ryzen AI 300 Strix Point (XDNA2) с производительностью 50 TOPS, AMD представила намеренно разработанный компилятор LLVM с открытым начальным кодом под заглавием Peano.
Проект Peano должен подтолкнуть развитие приложений для AMD NPU, которые сумеют применять эти новые микропроцессоры для ускорения огромных языковых моделей. А именно, AMD показала, как применять системы на базе Ryzen и Radeon с такими инструментами, как LM Студия. Компания также представила несколько примеров использования микропроцессоров Ryzen AI для разработки программного обеспечения, но они и не предусмотрены для конечных юзеров.
Значимость интегрированных NPU будет продолжать расти: AMD, Интел и Qualcomm вступили в гонку за самый шустрый ИИ-ускоритель. AMD приходится догонять, потому что Интел резвее выпустила личное ПО для NPU. В ядре Линукс аннотации для Meteor Lake NPU появились ещё до выпуска новейшей архитектуры, а начальный шифр плагина NPU доступен на платформе OpenVINO. Так как обе компании предлагают конечным юзерам компиляторы и ПО с открытым начальным кодом, разработчикам будет проще предлагать межвендорные решения. Инфа о схожих разработках для серии Snapdragon X отсутствует.
«От имени AMD я рад объявить об открытии начального кода серверной части LLVM для микропроцессоров AMD/Xilinx AI Engine. Эти микропроцессоры есть в почти всех устройствах, включая SoC Ryzen AI. В текущее время репозиторий нацелен на поддержку архитектуры AIE2, реализованной ускорителями XDNA в устройствах Phoenix и Hawk Point. Направьте внимание, что эти ускорители содержат в себе массив микропроцессоров, тогда как серверная часть LLVM поддерживает только один микропроцессор. Поддержка устройств в целом доступна в инструментах с открытым начальным кодом на базе MLIR» — ответил выпуск компилятора самый важный инженер AMD/Xilinx Стивен Нойендорфер (Stephen Neuendorffer).
