pdf-icon

LLM-8850 Kit

SKU:AI-002-8G

描述

LLM-8850 Kit 是一款面向边缘 AI 与嵌入式计算场景的高性能 AI 加速卡套件,由 LLM-8850 Card AI 加速卡与 LLM-8850 PiHat 转接板组成。核心加速卡 LLM-8850 Card 基于 Axera AX8850 SoC,采用 M.2 M-Key 2242 规格,在袖珍体积下即可提供高达 24 TOPS @ INT8 的算力,能够高效扩展多模态大模型推理与视频分析等 AI 应用能力。卡片集成 微型涡轮风扇 + 铝合金 CNC 鳍片 的主动散热系统,由板载 EC 按照温度 - 电流曲线进行智能调速,即使在长期满载运行或密闭机壳环境中,也能保持低温稳态,避免性能因热衰减而下降。配套的 LLM-8850 PiHat 转接板提供 2.54-40P 总线USB Type-C PD 供电接口,并通过 PCIe 扩展 FPC 转接座Raspberry Pi 5 连接,使树莓派平台能够轻松整合高算力 AI 加速能力,快速构建紧凑、高效的边缘智能系统。

产品特性

  • 超紧凑形态:M.2 M-Key 2242 尺寸
  • 高算力 NPU:24 TOPS @ INT8,八核 Cortex‑A55 1.7 GHz CPU
  • 智能散热 / 供电:板载涡轮风扇 + CNC 铝合金一体化散热器,EC 监控温‑流‑转速闭环
  • 8GB (4+4) 高带宽内存:64‑bit LPDDR4x,4266 Mbps
  • 硬件视频引擎:8 K @ 30 fps H.264/H.265 编码,8 K @ 30 fps 解码,支持 16 路 1080P 并行解码
  • 安全启动 & 加密:AES / DES / 3DES / SHA‑256 硬件安全模块
  • 原生 AXCL:CNN、Transformer、CLIP、Whisper、Llama3.2、Qwen3、InternVL3 等全栈模型一键运行,支持 H.264/H.265 同编同解转码
  • USB Type-C 接口 PD 供电:
    • USB PD3.0 100W 协议
    • DC 24V 过压保护
    • 供电能力要求 > 9V@3A (27W)

包装内容

LLM-8850 Kit(8G) (SKU:AI-002-8G)

  • 1x LLM-8850 Card(8G)
  • 1x LLM-8850 PiHat
  • 1x 2.54-40P 排母
  • 1x 螺丝铜柱配件包

应用场景

  • 边缘 AI 推理部署
  • 嵌入式视频分析
  • 树莓派 AI 算力扩展
  • 多模态大模型落地

规格参数

规格 参数
SoC Axera AX8850
CPU 八核 Cortex‑A55 1.7 GHz
NPU 24 TOPS @ INT8
视频编码器 8 K @ 30 fps H.264/H.265 编码,支持缩放 / 裁切
视频解码器 8 K @ 30 fps H.264/H.265 解码,支持 16 路 1080P 并行解码,支持缩放 / 裁切
内存 可选: 8GB 64‑bit LPDDR4x,4266 Mbps (4+4) / 4GB 64‑bit LPDDR4x,4266 Mbps (2+2)
存储 32Mbits QSPI NOR Flash (仅用于 Bootloader)
形态 M.2 M-KEY 2242,PCIe 2.0 ×2
散热 微型涡轮风扇 + 铝合金 CNC 一体化散热片,EC 智能温控
工作环境温度 0 ~ 60 °C
室温下的满载工作温度 70 °C
转接板 PD 供电 USB PD3.0 100W 协议 (DC 9V/12V/20V)
转接板负载能力 输出至 Raspberry Pi 5: DC 5V@4A,输出至 M.2 加速卡: DC 3.3V@6A
LLM8850 Card 功耗 7W @ 3.3V
供电要求 大于 9V@3A (27W)
产品尺寸 LLM‑8850 Card:42.6 x 24.0 x 9.7mm
LLM-8850 PiHat 转接板:65.0 x 58.0 x 12.7mm (含 LLM‑8850 Card)
产品重量 31.9g
包装尺寸 165.0 x 90.0 x 17.5mm
毛重 85.0g

操作说明

供电注意事项
使用时请通过转接板的 USB Type-C PD 输入为整机供电,供电能力要求 9V@3A (27W) 以上。 请勿从 Raspberry Pi 5 侧连接供电,避免造成设备损坏。
提醒
设备工作时会发热,请勿触摸,以免造成烫伤。
设备要求
由于树莓派内部中断资源不足,在使用 PCIE 转 4 通道 M.2 下,不支持 M.2 固态硬盘与 LLM-8850 共用。

系统兼容性

操作系统 是否支持
Ubuntu20.04
Ubuntu22.04
Ubuntu24.04
Debian12
Debian13
Windows10
Windows11
macOS
WSL
VMware
VBox

原理图

尺寸图

数据手册

软件开发

快速上手

相关视频

  • LLM‑8850 Kit 产品介绍以及功能展示