Chatbox

安装 Chatbox

访问Chatbox 官网下载对应操作系统的安装包并进行安装。

配置 Chatbox

1. 点击 Setup Provider，添加模型提供方

2. Add provider 中，Name 填写 ModuleLLM 或 AI Pyramid 即可，API Mode 选择 OpenAI API Compatible

3. 在API Host 填入 ModuleLLM 或 AI Pyramid 的 IP 和 API 路径，获取并添加已安装的模型

4. 添加 StackFlow 提供的 qwen2.5-1.5B-Int4-ax650 模型，这个需要根据平台选择对应的模型。ModuleLLM/LLM630 Compute Kit 平台模型后缀为 -ax630c，AI Pyramid 平台后缀为 -ax650，LLM8850 平台后缀为 -axcl，具体参考参考模型介绍章节

5. 修改最大上下文消息长度为 0，注意在设置中，关闭自动生成标题功能。

6. 模型支持流式输出，部分模型支持连续对话，发送 "reset" 即可清空上下文。多模型模型，例如 Internvl3 可以同时传入多张图片，但每次传入新的图片前，需要先发送 “reset” 清空上下文。