NPU 示例

NPU 工具链

经常在 AI 芯片上部署算法模型的同学都知道，想要把模型部署到芯片上的 NPU 中运行，都需要使用芯片原厂提供的 NPU 工具链，这里我们使用的是 Pulsar2。

• Pulsar2 在线文档

  • 安装指导
  • 快速上手
  • NPU 算子支持列表
  • 大模型转换

AXCL-Samples

AXCL-Samples 由 爱芯元智 主导开发。该项目实现了常见的深度学习开源算法在基于爱芯元智的 SoC 实现的PCIE 算力卡产品上运行的示例代码，方便社区开发者进行快速评估和适配。

• axcl-samples
• 该仓库采用最简单的方式展示常用的开源模型，例如 Ultralytics 的 YOLO 系列，DepthAnything，YOLO-Worldv2 等等。

获取示例

• AXCL-Samples 的预编译 ModelZoo 请参考：
  • 百度网盘
  • Hugging Face
  • 模型和程序 OSS 下载
  • 模型和程序 Hugging Face 下载

LLM 示例

• 模型转换请参考大模型编译文档
• 预编译 ModelZoo-LLM 请参考百度网盘 Hugging Face