Chatbox

安装 Chatbox

访问Chatbox 官网下载对应操作系统的安装包并进行安装。

配置 Chatbox

1. 安装完成后，启动 Chatbox。点击设置（Settings）选项后，依次点击Model Provider 和Add。

2. 在弹出的窗口中填写服务配置信息。

• API Mode：选择 OpenAI API Compatible
• API Key：目前暂不要求填写
• API Host：填入当前本地部署的设备 IP 地址，格式为http://IP:8000/v1
• API Path：设置为 /chat/completions
• Model：模型名称（eg: qwen2.5-0.5B-p256-ax630c）

3. 点击Chat Settings选项卡，关闭以下配置选项。

• 关闭 Auto-Generate Chat Titles（自动生成聊天标题）
• 关闭 Inject default metadata（在 CHAT 标签下注入默认元数据）

开始对话

点击 New Chat 创建新会话，输入信息并发送，即可收到模型回复。