StackFlow AI プラットフォーム
デバイスとクイックスタート
モデルの紹介
Qwen3
DeepSeek-R1
アプリケーション
CVビジョンアプリケーション
VLMマルチモーダル
大規模言語モデル (LLM)
音声アシスタント
モデル一覧
このインターフェースは、デバイスにインストールされているモデルサービスの一覧を取得するために使用されます。
モデルのインストールと確認
- 使用前に対応する機器のソフトウェア更新チュートリアルを参照し、M5Stack apt ソフトウェアソース情報の追加とインデックス更新を完了してください。
- 利用可能な llm deb パッケージのリストを確認します。その中で llm - model - name 形式で命名されているものはモデルパッケージです。
apt list | grep llm-model-- 必要に応じて apt コマンドを使用してソフトウェアパッケージをインストールします。例えば、
llm - model - qwen2.5 - 0.5b - p256 - ax630cパッケージをインストールします。注意：このモデルは多くのスペースを占めるため、必要に応じてインストールすることをおすすめします。
apt install llm-model-qwen2.5-0.5b-p256-ax630c使用可能なモデルの確認
PC 端で OpenAI API を通じてデバイスに現在利用可能なモデルの一覧を確認することができます。プログラムを実行する前に、以下の base_url の IP 部分をデバイスの実際の IP アドレスに変更する必要があります。
from openai import OpenAI
client = OpenAI(
api_key="sk-",
base_url="http://192.168.20.186:8000/v1"
)
client.models.list()
print(client.models.list())応答例
SyncPage[Model](data=[
Model(id='melotts_zh-cn', created=0, object='model', owned_by='user', permission=[], root=''),
Model(id='qwen2.5-0.5B-prefill-20e', created=0, object='model', owned_by='user', permission=[], root=''),
Model(id='sherpa-ncnn-streaming-zipformer-20M-2023-02-17', created=0, object='model', owned_by='user', permission=[], root=''),
Model(id='sherpa-ncnn-streaming-zipformer-zh-14M-2023-02-23', created=0, object='model', owned_by='user', permission=[], root=''),
Model(id='single_speaker_english_fast', created=0, object='model', owned_by='user', permission=[], root=''),
Model(id='single_speaker_fast', created=0, object='model', owned_by='user', permission=[], root=''),
Model(id='qwen2.5-0.5B-p256-ax630c', created=0, object='model', owned_by='user', permission=[], root='')
],
object='list')