Module LLM

SKU:M140

説明

モジュールLLMは、効率的でインテリジェントなインタラクションを必要とする端末デバイス向けに設計された統合型オフライン大言語モデル（LLM）推論モジュールです。スマートホーム、音声アシスタント、産業用制御など、どのような用途であっても、モジュールLLMはクラウドに依存することなく、スムーズで自然なAI体験を提供し、プライバシーと安定性を確保します。StackFlowフレームワークとArduino/UiFlowライブラリと統合されており、スマート機能をわずか数行のコードで簡単に実装できます。先進のAX630C SoCプロセッサを搭載し、3.2 TOPsの高効率NPUを内蔵し、Transformerモデルをネイティブサポートしているため、複雑なAIタスクも容易に処理できます。4GB LPDDR4メモリ（ユーザーアプリケーション用に1GB、ハードウェアアクセラレーション専用に3GB）と32GB eMMCストレージを搭載しており、複数のモデルの並列読み込みと逐次推論をサポートし、スムーズなマルチタスクを実現します。メインチップのランタイム消費電力は約1.5Wと非常に効率的で、長時間の稼働に適しています。内蔵マイク、スピーカー、TFカード、USB OTG、RGBステータスライトを搭載しており、音声インタラクションやデータ転送をサポートすることで、多様なアプリケーションニーズに対応します。モジュールは柔軟な拡張性を提供します。オンボードのSDカードスロットは、コールド/ホットファームウェアアップグレードをサポートし、UART通信インターフェースは接続とデバッグを簡素化し、モジュールの機能の継続的な最適化と拡張を保証します。USBポートはマスター・スレーブの自動切り替えに対応しており、デバッグポートとして機能するほか、カメラなどの追加USBデバイスを接続することも可能です。LLMデバッグキットを購入すれば、100Mbpsイーサネットポートとカーネルシリアルポートを追加でき、SBCとして使用できます。このモジュールは複数のモデルと互換性があり、Qwen2.5-0.5B言語モデルがプリインストールされています。 KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（音声合成）の各機能を備え、スタンドアロンコールまたはパイプライン自動転送をサポートしているため、開発が容易です。将来的には、Qwen2.5-1.5B、Llama3.2-1B、InternVL2-1Bモデルのサポートが予定されており、コミュニティのトレンドに追随し、さまざまな複雑なAIタスクに対応するためのホットモデルアップデートが可能になります。視覚認識機能には、CLIP、YoloWorldのサポートと、DepthAnything、SegmentAnything、その他の高度なモデルの今後のアップデートが含まれており、インテリジェントな認識と分析が強化されます。 M5Stackとのプラグアンドプレイにより、Module LLMは使いやすいAIインタラクション体験を提供します。ユーザーは複雑な設定をすることなく、既存のスマートデバイスに素早く統合でき、スマート機能を実現し、デバイスのインテリジェンスを向上させることができます。この製品は、オフライン音声アシスタント、テキスト音声変換、スマートホーム制御、インタラクティブロボットなど、さまざまな用途に適しています。

Arduino IDE

このチュートリアルでは、Arduino IDEを使用してModule LLMデバイスのプログラミングと制御方法について紹介します。

UIFlow2.0

このチュートリアルでは、UIFlow2.0グラフィカルプログラミングプラットフォームを使用してモジュールLLMデバイスを制御する方法を紹介します。

製品の特徴

オフライン推論、3.2T@INT8精度のコンピューティングパワー
KWS（ウェイクワード）、ASR（音声認識）、LLM（大規模言語モデル）、TTS（音声合成）の統合
マルチモデル並列処理
32GB eMMC ストレージおよび 4GB LPDDR4 メモリ搭載
マイクおよびスピーカー搭載
シリアル通信
SD カードによるファームウェアのアップグレード
ADB デバッグをサポート
RGB インジケータライト
Ubuntu システム内蔵
OTG 機能をサポート
Arduino/UIFlow との互換性あり

付属品

モジュール LLM x 1

module size

製品にデバッグボードが付属（初回リリース限定）
有線LANでssh経由の接続を行う場合の初期パスワードは123456です。

アプリケーション

オフライン音声アシスタント
テキスト音声変換
スマートホーム制御
インタラクティブロボット

仕様

仕様	パラメータ
プロセッサ SoC	AX630C@Dual Cortex A53 1.2 GHz MAX.12.8 TOPS @INT4 and 3.2 TOPS @INT8
メモリ	4GB LPDDR4 (1GBシステムメモリ + 3GBハードウェアアクセラレーション専用)
ストレージ	32GB eMMC5.1
通信	シリアル通信デフォルトボーレート 115200@8N1 (調整可能)
マイク	MSM421A
オーディオドライバ	AW8737
スピーカー	8Ω@1W , サイズ:20x14 スピーカー
RGBライト	3x RGB LED@2020、LP5562による駆動（ステータス表示）
電力	アイドル時: 5V@0.5W, 最大負荷時: 5V@1.5W
ボタン	ファームウェアアップグレード用のダウンロードモードに入るためのボタン
拡張	SDCard / USB Type-C Port
動作温度	0-40°C
製品サイズ	545413mm
梱包サイズ	1339516mm
製品重量	17.4g
梱包重量	32.0g

PinMap

Module LLM	RXD	TXD
Core (Basic)	G16	G17
Core2	G13	G14
CoreS3	G18	G17

LLM モジュールピン切り替え

LLM モジュールには、ピン切り替え用に半田用パッドが確保されています。ピン多重化の競合が発生した場合は、PCB トレースを切断し、他のピンセットに再接続することができます。

CoreS3 を例にとると、最初の列（左の緑色のボックス）はシリアル通信用のTXピンで、ユーザーは必要に応じて4つのオプションから1つを選択できます（上から下に向かってピンはG18、G7、G14、G10となっています）。デフォルトではIO18に設定されています。別のピンに切り替えるには、半田パッドの接続（赤線部分）を切断します（この作業にはカッターナイフの使用をお勧めします）。次に、残りの3つのピンのいずれかに接続します。2列目（右の緑色のボックス）はRXピンの選択用で、TXピンと同様に、4つのオプションから選択できます。

回路図

モジュールLLM回路図のダウンロード

モジュールサイズ

インジケータライト

LLMモジュール動作状態インジケータ:
- 赤: デバイスが初期化中
- 緑: デバイスが正常に初期化
LLMモジュールアップグレードステータスインジケータ:
- 青点滅: アプリケーションパッケージの更新中
- 赤: アプリケーションパッケージの更新に失敗
- 緑: アプリケーションパッケージの更新が正常に完了

モデルの置き換えに関する注意事項

LLMモジュールは、適切に機能させるために特別な処理を必要とする独自のフォーマットのモデルをサポートしています。そのため、既存の市場モデルを直接使用することはできません。

UIFlow

Arduino

ファームウェアアップデート

開発フレームワーク

StackFlow

開発リソース

ビデオ

モジュールLLM製品紹介とサンプルショーケース

AIベンチマーク比較