pdf-icon

StackFlow AI プラットフォーム

Chatbox

Chatbox のインストール

Chatbox公式ウェブサイトにアクセスし、お使いのオペレーティングシステム用のインストーラをダウンロードしてインストールしてください。

Chatboxのダウンロード画面

Chatbox の設定

  1. インストール後、Chatbox を起動します。SettingsModel Providerを順にクリックした後、Addをクリックします。
  1. ポップアップウィンドウに以下の情報を入力してください。
  • API モード: OpenAI API互換を選択する
  • API キー: 記入不要
  • API ホスト: ローカルにデプロイしたデバイスの IP アドレスをhttp://IP:8000/v1の形式で入力する
  • API パス: /chat/completionsに設定する
  • モデル: モデル名(例: qwen2.5-0.5B-p256-ax630c)
  1. Chat Settingsをクリックし、以下のオプションを無効にします。
  • Auto-Generate Chat Titlesを無効にする
  • Inject default metadataを無効にする
Chatboxの設定画面3

チャットの開始

New Chatをクリックして新しい会話を作成し、メッセージを入力して送信すると、モデルからの応答を受け取ることができます。

テキスト長の注意事項
入力テキストの長さは、モデルがサポートする最大長を超えてはなりません。名前にp256が含まれるモデルパッケージの場合、1 リクエストあたりの最大トークン入力は 256 です。特別なマーキングのない他のモデルの場合は 128 です。
On This Page