pdf-icon

Product Guide

リアルタイム音声アシスタント

OpenAI ボイスアシスタント

XiaoLing ボイスアシスタント

AtomS3R-M12 Volcengine Kit

Industrial Control

IoT Measuring Instruments

Air Quality

PowerHub

Module13.2 PPS

入出力デバイス

HID入力デバイス

オーディオ再生デバイス

Ethernet Camera

ディップスイッチ&ピン切り替え

Chatbox

Chatbox のインストール

お使いの OS に対応したインストーラーをダウンロードするには、Chatbox公式サイト にアクセスし、インストールを行ってください。

Chatbox の設定

  1. インストール完了後、Chatbox を起動します。設定(Settings)をクリックし、Model Provider のドロップダウンをクリックして Add Custom Provider を選択してください。
  1. MODEL タブでサービス構成情報を入力します。
  • API ModeOpenAI API Compatible を選択
  • API Host:ローカルにデプロイしたデバイスの IP アドレスを http://IP:8000/v1 の形式で入力
  • API Path/chat/completions に設定
  • API Key:現時点では入力不要
  • Model:モデル名(例: qwen2.5-0.5B-p256-ax630c
  1. CHAT タブをクリックし、以下のオプションを無効にします。
  • Auto Generate Chat Titles を無効にする
  • Inject default metadata under the CHAT tab を無効にする

チャットを開始

New Chat をクリックして新しい会話を作成し、メッセージを入力して送信するとモデルからの応答を受け取れます。

テキスト長に関する注意
入力するテキストの長さは、モデルがサポートする最大長を超えないようにしてください。モデルパッケージ名に p256 を含むものは 1 回あたりの最大トークン入力数が 256、それ以外の特別なマークのないモデルは 128 です。
On This Page