配置 AI 模型

接入大模型服务商、测连与默认模型。

配置 AI 模型

模型配置决定了左辅星能不能正常工作,也决定了回复质量、速度、费用和稳定性。第一次使用时,先保证“至少一个模型可用”;熟悉后再去配置默认模型、自动路由、预算和模式默认项。

模型配置包含哪些内容

模型相关设置通常分为以下几层:

层级 作用
厂商配置 填 API Key、地址、套餐信息
模型列表 启用哪些具体模型
默认模型 新会话默认用哪个模型
模式默认模型 Ask / Agent / Workflow 优先用哪个
Auto 路由 让系统在候选模型间自动切换
降级模型 主模型失败时自动回退
预算与用量 控制费用并查看估算消耗

第一步:准备密钥

你需要先在对应服务商网站准备 API Key 或套餐凭据。当前客户端支持的厂商会随版本扩展,建议以客户端的厂商列表和 商城 · 模型 为准。

常见准备原则:

  1. 确认自己拿到的是 API 密钥,而不是网页端登录凭证。
  2. 编码套餐和通用对话套餐不要混填。
  3. 如果服务商区分专用网关地址和通用地址,按官方文档填写。
  4. 密钥只填写在设置里,不要贴进聊天窗口。

操作:在设置中填写并测连

  1. 打开 AI 设置 → AI 模型(或菜单 AI → 模型与接口)。
  2. 在厂商管理中选择一个厂商。
  3. 填写必需信息,例如:
    • API Key
    • 接口地址
    • 套餐类型
    • 代理地址(如需要)
  4. 点击 测试连接。
  5. 测试成功后点击 保存 / 应用更改。

建议先只配 1 到 2 个厂商,确认稳定后再扩展。也可从 商城 · 模型 点添加入口,再回到客户端补全密钥并测连。

对话行为(信任等级、写盘审核)不在本页,请到 设置中心 · 对话与模式。

第三步:启用模型列表

厂商配置成功后,还需要在 模型列表管理 中决定哪些模型真正可用于对话。

建议操作:

  1. 先启用 1 个轻量模型和 1 个强模型。
  2. 把最常用的设为默认模型。
  3. 如果你的任务跨度很大,再按模式设默认模型。

推荐的模式分配思路

模式 建议模型方向
Ask 响应快、成本低、通用理解强
Agent 推理更稳、工具链配合更好、代码能力更强
Workflow 稳定性高、长任务表现更好

第四步:在对话中切换模型

模型不必只在设置里改。你可以在对话面板底部直接切换当前会话模型。

适合切换的场景:

  • Ask 回答太慢,切轻量模型
  • Agent 改码质量不够,切强推理模型
  • Workflow 长任务失败,换更稳的模型
  • 文档任务想节省费用,切通用模型

每次换模型后,建议先发一句短消息确认是否正常。

模式默认模型怎么设置

如果你几乎总是这样用:

  • Ask 用便宜又快的模型
  • Agent 用代码能力更强的模型
  • Workflow 用稳定的长任务模型

那就应该设置 各模式默认模型。
这样新建会话或切模式时,会优先选对应模型,减少手动切换。

Auto 和降级模型怎么理解

模型系统支持以下容错策略:

Auto 的作用

当你把模型设为“自动”时,系统会按规则选择合适模型,适合:

  • 你不想每次手动挑模型
  • 有多个厂商做备份
  • 希望系统自动做停滞切换或分片处理

降级模型的作用

如果主模型失败、超时或临时不可用,系统可切到降级模型继续任务。
对长时间任务或 Workflow 较为有用。

预算与费用建议

设置页支持预算、用量和估算费用。建议配置以下三项:

  1. 月度预算限制:避免失控。
  2. 默认计费口径:按次或按 Token。
  3. 用量预警阈值:提前提醒自己快到上限。

如果你是团队管理员,还应定期检查:

  • 各厂商余额
  • 单价是否变动
  • 预算是否需要调整
  • 哪类任务消耗最高

这些高级选项什么时候再看

以下选项不是首次上手必配,但你应该知道它们存在:

  • Prompt 缓存
  • 最小请求间隔
  • 最大输出 Token
  • 重试次数
  • 代理服务器
  • 上下文恢复 Agent
  • Thinking / Preserved Thinking 相关策略
  • Auto 的停滞切换与 Map-Reduce 配置

如果你只是普通用户,先不用改。只有在“成本太高、速度太慢、失败率高”时再细调。

模型选型建议

任务类型 建议优先考虑
快速问答 低成本、低延迟
代码理解 上下文较强、代码能力较好
自动改动 推理稳定、工具协作稳定
长文档生成 长上下文、稳定输出
工作流执行 失败率低、可持续运行
多模态材料 支持图片或视频理解的模型

连接失败怎么办

按顺序检查:

  1. 网络是否能访问服务商接口。
  2. API Key 是否复制完整。
  3. 厂商地址是否填错。
  4. 套餐类型是否匹配。
  5. 是否需要代理。
  6. 换另一个模型或另一个厂商测试。
  7. 仍不行再看 故障排除。

初始配置参考

可按以下步骤配置:

  1. 一个主力模型。
  2. 一个备用模型。
  3. Ask 和 Agent 先共用主力模型。
  4. 预算设一个自己能接受的月上限。
  5. 等连续使用几天后,再拆分模式默认模型。