配置 AI 模型
接入大模型服务商、测连与默认模型。
配置 AI 模型
模型配置决定了左辅星能不能正常工作,也决定了回复质量、速度、费用和稳定性。第一次使用时,先保证“至少一个模型可用”;熟悉后再去配置默认模型、自动路由、预算和模式默认项。
模型配置包含哪些内容
模型相关设置通常分为以下几层:
| 层级 | 作用 |
|---|---|
| 厂商配置 | 填 API Key、地址、套餐信息 |
| 模型列表 | 启用哪些具体模型 |
| 默认模型 | 新会话默认用哪个模型 |
| 模式默认模型 | Ask / Agent / Workflow 优先用哪个 |
| Auto 路由 | 让系统在候选模型间自动切换 |
| 降级模型 | 主模型失败时自动回退 |
| 预算与用量 | 控制费用并查看估算消耗 |
第一步:准备密钥
你需要先在对应服务商网站准备 API Key 或套餐凭据。当前客户端支持的厂商会随版本扩展,建议以客户端的厂商列表和 商城 · 模型 为准。
常见准备原则:
- 确认自己拿到的是 API 密钥,而不是网页端登录凭证。
- 编码套餐和通用对话套餐不要混填。
- 如果服务商区分专用网关地址和通用地址,按官方文档填写。
- 密钥只填写在设置里,不要贴进聊天窗口。
操作:在设置中填写并测连
- 打开 AI 设置 → AI 模型(或菜单 AI → 模型与接口)。
- 在厂商管理中选择一个厂商。
- 填写必需信息,例如:
- API Key
- 接口地址
- 套餐类型
- 代理地址(如需要)
- 点击 测试连接。
- 测试成功后点击 保存 / 应用更改。
建议先只配 1 到 2 个厂商,确认稳定后再扩展。也可从 商城 · 模型 点添加入口,再回到客户端补全密钥并测连。
对话行为(信任等级、写盘审核)不在本页,请到 设置中心 · 对话与模式。
第三步:启用模型列表
厂商配置成功后,还需要在 模型列表管理 中决定哪些模型真正可用于对话。
建议操作:
- 先启用 1 个轻量模型和 1 个强模型。
- 把最常用的设为默认模型。
- 如果你的任务跨度很大,再按模式设默认模型。
推荐的模式分配思路
| 模式 | 建议模型方向 |
|---|---|
| Ask | 响应快、成本低、通用理解强 |
| Agent | 推理更稳、工具链配合更好、代码能力更强 |
| Workflow | 稳定性高、长任务表现更好 |
第四步:在对话中切换模型
模型不必只在设置里改。你可以在对话面板底部直接切换当前会话模型。
适合切换的场景:
- Ask 回答太慢,切轻量模型
- Agent 改码质量不够,切强推理模型
- Workflow 长任务失败,换更稳的模型
- 文档任务想节省费用,切通用模型
每次换模型后,建议先发一句短消息确认是否正常。
模式默认模型怎么设置
如果你几乎总是这样用:
- Ask 用便宜又快的模型
- Agent 用代码能力更强的模型
- Workflow 用稳定的长任务模型
那就应该设置 各模式默认模型。
这样新建会话或切模式时,会优先选对应模型,减少手动切换。
Auto 和降级模型怎么理解
模型系统支持以下容错策略:
Auto 的作用
当你把模型设为“自动”时,系统会按规则选择合适模型,适合:
- 你不想每次手动挑模型
- 有多个厂商做备份
- 希望系统自动做停滞切换或分片处理
降级模型的作用
如果主模型失败、超时或临时不可用,系统可切到降级模型继续任务。
对长时间任务或 Workflow 较为有用。
预算与费用建议
设置页支持预算、用量和估算费用。建议配置以下三项:
- 月度预算限制:避免失控。
- 默认计费口径:按次或按 Token。
- 用量预警阈值:提前提醒自己快到上限。
如果你是团队管理员,还应定期检查:
- 各厂商余额
- 单价是否变动
- 预算是否需要调整
- 哪类任务消耗最高
这些高级选项什么时候再看
以下选项不是首次上手必配,但你应该知道它们存在:
- Prompt 缓存
- 最小请求间隔
- 最大输出 Token
- 重试次数
- 代理服务器
- 上下文恢复 Agent
- Thinking / Preserved Thinking 相关策略
- Auto 的停滞切换与 Map-Reduce 配置
如果你只是普通用户,先不用改。只有在“成本太高、速度太慢、失败率高”时再细调。
模型选型建议
| 任务类型 | 建议优先考虑 |
|---|---|
| 快速问答 | 低成本、低延迟 |
| 代码理解 | 上下文较强、代码能力较好 |
| 自动改动 | 推理稳定、工具协作稳定 |
| 长文档生成 | 长上下文、稳定输出 |
| 工作流执行 | 失败率低、可持续运行 |
| 多模态材料 | 支持图片或视频理解的模型 |
连接失败怎么办
按顺序检查:
- 网络是否能访问服务商接口。
- API Key 是否复制完整。
- 厂商地址是否填错。
- 套餐类型是否匹配。
- 是否需要代理。
- 换另一个模型或另一个厂商测试。
- 仍不行再看 故障排除。
初始配置参考
可按以下步骤配置:
- 一个主力模型。
- 一个备用模型。
- Ask 和 Agent 先共用主力模型。
- 预算设一个自己能接受的月上限。
- 等连续使用几天后,再拆分模式默认模型。