pdf-icon

Product Guide

Industrial Control

Offline Voice Recognition

Thread

Module Gateway H2

IoT Measuring Instruments

IoT Cloud

Ethernet Camera

ディップスイッチ使用ガイド

Module ExtPort For Core2

Chatbox

Chatbox のインストール

お使いの OS に対応したインストーラーをダウンロードするには、Chatbox公式サイト にアクセスし、インストールを行ってください。

Chatbox の設定

  1. インストール完了後、Chatbox を起動します。設定(Settings)をクリックし、Model Provider のドロップダウンをクリックして Add Custom Provider を選択してください。
  1. MODEL タブでサービス構成情報を入力します。
  • API ModeOpenAI API Compatible を選択
  • API Host:ローカルにデプロイしたデバイスの IP アドレスを http://IP:8000/v1 の形式で入力
  • API Path/chat/completions に設定
  • API Key:現時点では入力不要
  • Model:モデル名(例: qwen2.5-0.5B-p256-ax630c
  1. CHAT タブをクリックし、以下のオプションを無効にします。
  • Auto Generate Chat Titles を無効にする
  • Inject default metadata under the CHAT tab を無効にする

チャットを開始

New Chat をクリックして新しい会話を作成し、メッセージを入力して送信するとモデルからの応答を受け取れます。

テキスト長に関する注意
入力するテキストの長さは、モデルがサポートする最大長を超えないようにしてください。モデルパッケージ名に p256 を含むものは 1 回あたりの最大トークン入力数が 256、それ以外の特別なマークのないモデルは 128 です。
On This Page