
StackFlow AI プラットフォーム
Chatbox公式ウェブサイトにアクセスし、お使いのオペレーティングシステム用のインストーラをダウンロードしてインストールしてください。
Settings、Model Providerを順にクリックした後、Addをクリックします。
OpenAI API互換を選択するhttp://IP:8000/v1の形式で入力する/chat/completionsに設定する
Chat Settingsをクリックし、以下のオプションを無効にします。Auto-Generate Chat Titlesを無効にするInject default metadataを無効にする
New Chatをクリックして新しい会話を作成し、メッセージを入力して送信すると、モデルからの応答を受け取ることができます。
p256が含まれるモデルパッケージの場合、1 リクエストあたりの最大トークン入力は 256 です。特別なマーキングのない他のモデルの場合は 128 です。
