pdf-icon

LLM‑8850 Card

SKU:AI-001

説明

LLM‑8850 Card は、エッジデバイス向けの M.2 M-KEY 2242 AI アクセラレーションカードです。42 mm のコンパクトなサイズに Axera AX8850 SoC の 24 TOPS @ INT8 の演算性能を統合し、Raspberry Pi 5、RK3588 SBC、x86 PC などのホストに「挿すだけ」でマルチモーダル大規模モデルおよび映像解析能力を拡張します。カードには、マイクロターボファンとアルミ合金 CNC フィンを組み合わせたアクティブ冷却システムを搭載し、オンボード EC が温度‐電流カーブに基づいてインテリジェントに回転数を制御します。長時間の高負荷運転でも低温の定常状態を維持し、密閉筐体内でのサーマルスロットリングを防止します。

オンボードの DCDC + PMIC 電源系は EC によるリアルタイム電力管理を実現し、「必要なときに給電、必要なときに冷却」を行うことで、システム全体の安定性を大幅に向上させます。AXCL Runtime に対応し、C / Python API により YOLO‑v8/11、CLIP、Whisper、Llama3.2、InternVL3、Qwen3 などの主要な CNN、Transformer、LLM、マルチモーダルモデルをワンクリックでデプロイ可能です。さらに AX8850 の VPU ハードウェアパイプラインを活用し、H.264/H.265 の 8K エンコード/デコード、同時エンコード・デコードによるトランスコード、スケーリング/クロッピングを高速化し、AI と映像ストリーム処理の両立を実現します。ホスト側から ffmpeg を使用してハードウェア映像コーデックを直接呼び出すことも可能です。

クイックスタート

本チュートリアルでは、LLM‑8850 Card のクイックスタート手順、対応モデル一覧、および高度な使用方法を紹介します。

特徴

  • 超コンパクト設計:NGFF M.2 M-KEY 2242 サイズ、PCIe 2.0 ×2 レーンに対応したプラグアンドプレイ
  • 高性能 NPU:24 TOPS @ INT8、8 コア Cortex‑A55 1.7 GHz CPU
  • インテリジェント冷却/電源:オンボードターボファン + CNC アルミ一体型ヒートシンク、EC による温度・電流・回転数のクローズドループ制御
  • 高帯域メモリ:64‑bit LPDDR4x、4266 Mbps、8GB 容量
  • ハードウェア映像エンジン:8 K @ 30 fps H.264/H.265 エンコード、8 K @ 30 fps デコード、16 系統 1080P 並列デコード対応
  • セキュアブート & 暗号化:AES / DES / 3DES / SHA‑256 ハードウェアセキュリティモジュール
  • ネイティブ AXCL:CNN、Transformer、CLIP、Whisper、Llama3.2、Qwen3、InternVL3 などのフルスタックモデルをワンクリック実行、H.264/H.265 同時エンコード・デコードのトランスコード対応

含まれるもの

  • 1 x LLM‑8850 Card

アプリケーション

  • 産業/商用 SBC の演算性能拡張:Raspberry Pi 5、RK3588、TI AM62x などでのローカル物体検出・欠陥検出
  • 具身知能ロボット:AMR / AGV / サービスロボットにおける「知覚‑判断‑制御」のローカルチェーンを即時構築
  • AIPC & エッジ AI 端末:ミニ PC 内でのオフライン Copilot、FAQ 応答、会議字幕およびリアルタイム翻訳
  • NVR / NAS の高度化:既存ストレージ筐体に多チャンネル AI ナンバープレート認識、イベント要約検索 + ハードウェアトランスコードを追加
  • スマートインタラクションデバイス:音声アシスタント、スマートドアベル、デジタルサイネージでの低遅延なローカル LLM + TTS 対話
  • AI ビジョンゲートウェイ:交差点やキャンパスゲート前段での推論、リアルタイム人流統計および危険行動アラート

仕様

仕様 パラメータ
SoC Axera AX8850
CPU 8 コア Cortex‑A55 1.7 GHz
NPU 24 TOPS @ INT8
ビデオエンコーダ 8 K @ 30 fps H.264/H.265 エンコード、スケーリング/クロッピング対応
ビデオデコーダ 8 K @ 30 fps H.264/H.265 デコード、16 系統 1080P 並列デコード対応、スケーリング/クロッピング対応
メモリ 64‑bit LPDDR4x、4266 Mbps、8GB
ストレージ 32Mbits QSPI NOR Flash(Bootloader 用)
フォームファクタ M.2 M-KEY 2242、PCIe 2.0 ×2
冷却 マイクロターボファン + アルミ合金 CNC 一体型ヒートシンク、EC インテリジェント温度制御
動作環境温度 0 ~ 60 °C
室温下フルロード温度 70 °C
電源 7W @ 3.3V
製品サイズ 42.6 x 24.0 x 9.7mm
製品重量 14.7g
梱包サイズ 66.0 x 44.0 x 13.5mm
総重量 19.8g

操作説明

注意
動作中は発熱します。やけどの恐れがあるため、触れないでください。
電源要件
Raspberry Pi やその他の PC に接続する場合、DC 5V@3A に対応したスイッチング電源(PD 非対応)アダプタを使用してください。PD 電源アダプタを使用すると、プロトコル互換性の問題により最大出力が得られず、動作異常が発生する可能性があります。
デバイス要件
Raspberry Pi は内部割り込みリソースが不足しているため、PCIe から 4 レーン M.2 への構成では、M.2 SSD と LLM‑8850 の同時使用はサポートされません。現在、Waveshare(微雪電子)の PCIe デュアルレーン M.2 変換ボードは非対応であることが確認されています。
  1. 構造要件:PCIe M.2 M-Key
  2. インターフェース要件:PCIe 2.0 ×2 レーン対応、x1 下位互換対応(例:Raspberry Pi の PCIe 2.0 x1)。※ M.2 SSD の NVMe プロトコルは非対応
  3. ハードウェア要件:Raspberry Pi 使用時は、公式コントローラおよび変換ボード、または M5Stack 提供の変換ボードの使用を推奨します。他社製ハードウェアでは互換性問題が発生する可能性があります。
  4. システム要件:下記のシステム互換性表を参照してください。その他の OS ではドライバを正常にインストールできない場合があります。

ハードウェア互換性

以下のボードは、公式およびサードパーティユーザーによる検証により、LLM‑8850 Card と正常に動作することが確認されています。

ボード 対応
Raspberry Pi 5
Radxa Rock 5B RK3588

システム互換性

OS 対応
Ubuntu20.04
Ubuntu22.04
Ubuntu24.04
Debian12
Debian13
Windows10
Windows11
macOS
WSL
VMware
VBox

製品サイズ

データシート

ソフトウェア

クイックスタート

動画

  • LLM‑8850 Card 製品紹介および機能デモ