Module LLM

SKU:M140

説明

Module LLM は、オフライン大規模言語モデル（LLM）推論を統合したモジュールで、高効率かつ高度なインタラクションを必要とするエッジデバイス向けに設計されています。スマートホーム、音声アシスタント、産業制御などの分野において、クラウドに依存せず、プライバシーと安定性を確保したスムーズで自然な AI 体験を提供します。

本モジュールは StackFlow フレームワークを統合し、Arduino / UiFlow ライブラリと組み合わせることで、数行のコードだけでエッジ AI を簡単に実現できます。愛芯 AX630C SoC プロセッサを搭載し、3.2TOPs の高効率 NPU を内蔵、Transformer モデルをネイティブサポートし、複雑な AI タスクにも容易に対応します。4GB LPDDR4 メモリ（ユーザー使用 1GB、ハードウェアアクセラレーション専用 3GB）と 32GB eMMC ストレージを搭載し、複数モデルの並列ロードおよびパイプライン推論をサポート、多タスク処理を安定して実行します。動作消費電力は約 1.5W と低く、省電力で長時間稼働に適しています。

Module LLM は、マイク、スピーカー、TF カード、USB OTG、RGB ステータス LED を統合し、音声インタラクションやデータ通信など多様なアプリケーション要件に対応します。拡張性の面では、オンボード SD カードスロットによるファームウェアのコールド / ホットアップデートをサポートし、UART 通信インターフェースにより接続およびデバッグを簡素化します。USB ポートはホスト / デバイスの自動切り替えに対応し、デバッグ用途だけでなく、カメラなどの USB デバイス接続も可能です。LLM デバッグキットと組み合わせることで、100Mbps イーサネットおよびカーネル UART を拡張し、SBC としても使用できます。

本モジュールは複数モデルに対応し、出荷時には Qwen2.5-0.5B 大規模言語モデルをプリインストールしています。KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（テキスト音声変換）機能を内蔵し、個別呼び出しまたは pipeline による自動連携が可能です。今後は Qwen2.5-1.5B、Llama3.2-1B、InternVL2-1B などのエッジ LLM / VLM モデルを順次サポート予定で、モデルのホットアップデートにも対応し、さまざまな AI タスクの複雑度に適応します。ビジュアル認識では CLIP、YoloWorld などの Open World モデルをサポートし、将来的には DepthAnything、SegmentAnything なども追加予定です。

Module LLM はプラグアンドプレイ設計で、M5 ホストと組み合わせることで、即座に AI インタラクションを実現します。煩雑な設定は不要で、既存のスマートデバイスに容易に統合でき、デバイスの知能化を迅速に推進します。オフライン音声アシスタント、テキスト音声変換、スマートホーム制御、インタラクティブロボットなどに最適です。

クイックスタート

Arduino IDE

Arduino IDE

本チュートリアルでは、Arduino IDE を使用して Module LLM デバイスを制御する方法を紹介します。M5Core シリーズホストと併用する必要があります

UiFlow2

UiFlow2

本チュートリアルでは、UiFlow2 グラフィカルプログラミングプラットフォームを使用して Module LLM デバイスを制御する方法を紹介します

特徴

• オフライン推論、3.2T@INT8 演算性能
• KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（テキスト音声変換）を統合
• マルチモデル並列処理対応
• 32GB eMMC ストレージおよび 4GB LPDDR4 メモリ搭載
• オンボードマイクおよびスピーカー
• シリアル通信
• SD カードによるファームウェアアップグレード
• ADB デバッグ対応
• RGB ステータス LED
• Ubuntu 内蔵
• OTG 機能対応
• Arduino、UiFlow 対応

含まれるもの

• 1 x Module LLM

アプリケーション

• オフライン音声アシスタント
• テキスト音声変換
• スマートホーム制御
• インタラクティブロボット

仕様

回路図

• Module LLM 回路図ダウンロード

1/9

ピンマップ

M5-Bus

製品サイズ

データシート

• AX630C

ソフトウェア

クイックスタート

• Module LLM ADB / UART / SSH 接続デバッグ

• Module LLM ソフトウェアパッケージ更新

• Module LLM イメージベースパッケージ更新

• Module LLM 動作ステータス LED:

  • 赤色：デバイス初期化中
  • 緑色：デバイス初期化完了

• Module LLM アプリケーション更新ステータス LED:

  • 青色点滅：アプリケーションパッケージ更新中
  • 赤色：アプリケーション更新失敗
  • 緑色：アプリケーション更新成功

Arduino

• Module LLM Arduino クイックスタート
• Module LLM Arduino ドライバライブラリ
• Module LLM Arduino API

UiFlow1

• Module LLM UiFlow1 ドキュメント

UiFlow2

• Module LLM UiFlow2 クイックスタート
• Module LLM UiFlow2 ドキュメント
• Module LLM UiFlow2 API

OpenAI API

• Module LLM Kit OpenAI API 使用ガイド

開発フレームワーク

• StackFlow

開発資料

• AX630C Databrief
• Module LLM JSON API ドキュメント
• Module LLM AX630C API ドキュメント
• Module LLM AX620E MSP / Sample
• Module LLM Linux Kernel 4.19.125-head
• AXERA LLM Example
• AXERA CV Example
• Module LLM Large Model Compilation Guide

動画

• Module LLM 製品紹介およびデモ

製品比較

AI Benchmark 比較