Module LLM

SKU:M140

説明

モジュールLLMは、効率的でインテリジェントなインタラクションを必要とする端末デバイス向けに設計された統合型オフライン大言語モデル(LLM)推論モジュールです。スマートホーム、音声アシスタント、産業用制御など、どのような用途であっても、モジュールLLMはクラウドに依存することなく、スムーズで自然なAI体験を提供し、プライバシーと安定性を確保します。StackFlowフレームワークとArduino/UiFlowライブラリと統合されており、スマート機能をわずか数行のコードで簡単に実装できます。先進のAX630C SoCプロセッサを搭載し、3.2 TOPsの高効率NPUを内蔵し、Transformerモデルをネイティブサポートしているため、複雑なAIタスクも容易に処理できます。4GB LPDDR4メモリ(ユーザーアプリケーション用に1GB、ハードウェアアクセラレーション専用に3GB)と32GB eMMCストレージを搭載しており、複数のモデルの並列読み込みと逐次推論をサポートし、スムーズなマルチタスクを実現します。メインチップのランタイム消費電力は約1.5Wと非常に効率的で、長時間の稼働に適しています。内蔵マイク、スピーカー、TFカード、USB OTG、RGBステータスライトを搭載しており、音声インタラクションやデータ転送をサポートすることで、多様なアプリケーションニーズに対応します。モジュールは柔軟な拡張性を提供します。オンボードのSDカードスロットは、コールド/ホットファームウェアアップグレードをサポートし、UART通信インターフェースは接続とデバッグを簡素化し、モジュールの機能の継続的な最適化と拡張を保証します。USBポートはマスター・スレーブの自動切り替えに対応しており、デバッグポートとして機能するほか、カメラなどの追加USBデバイスを接続することも可能です。LLMデバッグキットを購入すれば、100Mbpsイーサネットポートとカーネルシリアルポートを追加でき、SBCとして使用できます。このモジュールは複数のモデルと互換性があり、Qwen2.5-0.5B言語モデルがプリインストールされています。 KWS(ウェイクワード)、ASR(音声認識)、LLM(大規模言語モデル)、TTS(音声合成)の各機能を備え、スタンドアロンコールまたはパイプライン自動転送をサポートしているため、開発が容易です。将来的には、Qwen2.5-1.5B、Llama3.2-1B、InternVL2-1Bモデルのサポートが予定されており、コミュニティのトレンドに追随し、さまざまな複雑なAIタスクに対応するためのホットモデルアップデートが可能になります。視覚認識機能には、CLIP、YoloWorldのサポートと、DepthAnything、SegmentAnything、その他の高度なモデルの今後のアップデートが含まれており、インテリジェントな認識と分析が強化されます。 M5Stackとのプラグアンドプレイにより、Module LLMは使いやすいAIインタラクション体験を提供します。ユーザーは複雑な設定をすることなく、既存のスマートデバイスに素早く統合でき、スマート機能を実現し、デバイスのインテリジェンスを向上させることができます。この製品は、オフライン音声アシスタント、テキスト音声変換、スマートホーム制御、インタラクティブロボットなど、さまざまな用途に適しています。

Arduino IDE

このチュートリアルでは、Arduino IDEを使用してModule LLMデバイスのプログラミングと制御方法について紹介します。

UIFlow2.0

このチュートリアルでは、UIFlow2.0グラフィカルプログラミングプラットフォームを使用してモジュールLLMデバイスを制御する方法を紹介します。

特徴

オフライン推論、3.2T@INT8精度のコンピューティングパワー
KWS(ウェイクワード)、ASR(音声認識)、LLM(大規模言語モデル)、TTS(音声合成)の統合
マルチモデル並列処理
32GB eMMC ストレージおよび 4GB LPDDR4 メモリ搭載
マイクおよびスピーカー搭載
シリアル通信
SD カードによるファームウェアのアップグレード
ADB デバッグをサポート
RGB インジケータライト
Ubuntu システム内蔵
OTG 機能をサポート
Arduino/UIFlow との互換性あり

付属品

モジュール LLM x 1

製品にデバッグボードが付属(初回リリース限定)
有線LANでssh経由の接続を行う場合の初期パスワードは123456です。

アプリケーション

オフライン音声アシスタント
テキスト音声変換
スマートホーム制御
インタラクティブロボット

仕様

仕様	パラメータ
プロセッサ SoC	AX630C@Dual Cortex A53 1.2 GHz MAX.12.8 TOPS @INT4 and 3.2 TOPS @INT8
メモリ	4GB LPDDR4 (1GBシステムメモリ + 3GBハードウェアアクセラレーション専用)
ストレージ	32GB eMMC5.1
通信	シリアル通信デフォルトボーレート 115200@8N1 (調整可能)
マイク	MSM421A
オーディオドライバ	AW8737
スピーカー	8Ω@1W , サイズ:20x14 スピーカー
RGBライト	3x RGB LED@2020、LP5562による駆動(ステータス表示)
電力	アイドル時: 5V@0.5W, 最大負荷時: 5V@1.5W
ボタン	ファームウェアアップグレード用のダウンロードモードに入るためのボタン
拡張	SDCard / USB Type-C Port
動作温度	0-40°C
製品サイズ	54 x 54 x 13mm
梱包サイズ	133 x 95 x 16mm
製品重量	17.4g
梱包重量	32.0g

ピンマップ

Module LLM	RXD	TXD
Core (Basic)	G16/G13/G34/G35	G17/G15/G12/G0
Core2	G13/G19/G34/G35	G14/G2/G27/G0
CoreS3	G18/G7/G14/G10	G17/G13/G6/G0

LLM Moduleピン切り替え

LLM Moduleはピン切り替え用のパッドを備えています。ピンの多重使用による競合が発生した場合、PCBの配線をカットし、ジャンパー線を使用して他のピンに接続することができます。CoreS3を例にすると、最初の列（左の緑枠）はシリアル通信のTXピンを示し、ユーザーは4つのオプション（上から順にG18、G7、G14、G10）から選択できます。デフォルトはIO18です。他のピンに切り替える場合は、パッドの接続線（赤線部分）をカット（カッターナイフの使用を推奨）し、下の3つのピンのうち1つに接続してください。2列目（右の緑枠）はRXピンの切り替えで、同様に4つのオプションから選択できます。

パッドの位置

TXとRXの2列、4つの選択肢

接続をカット

ピンを選択してはんだ付け

はんだごてで接続

完成した結果

回路図

モジュールLLM## 回路図のダウンロード

モジュールサイズ

インジケータライト

LLMモジュール動作状態インジケータ:
- 赤: デバイスが初期化中
- 緑: デバイスが正常に初期化
LLMモジュールアップグレードステータスインジケータ:
- 青点滅: アプリケーションパッケージの更新中
- 赤: アプリケーションパッケージの更新に失敗
- 緑: アプリケーションパッケージの更新が正常に完了

モデルの置き換えに関する注意事項

LLMモジュールは、適切に機能させるために特別な処理を必要とする独自のフォーマットのモデルをサポートしています。そのため、既存の市場モデルを直接使用することはできません。

UIFlow

Arduino

ファームウェアアップデート

開発フレームワーク

StackFlow

開発リソース

ビデオ

モジュールLLM製品紹介とサンプルショーケース

AIベンチマーク比較