文档
LLM 大模型
Web 界面的 LLM 配置 页为每个 AI 功能分别指定 LLM 提供商——终端分类、Git 提交信息、冲突解决、语音文本润色和翻译。提供商本身是 插件 页中管理的 LLM 类型插件。
提供商即插件
LLM 提供商位于 插件 页的 LLM 提供商 分组:
- 内置了 OpenAI Compatible LLM 提供商;自定义提供商可以通过
上传插件按钮上传 zip 安装。插件清单声明的配置字段(API Key、Base URL、模型等)会被 Web 界面自动生成表单; - 只有插件处于启用状态时,提供商才会出现在功能的下拉列表中——请先在插件页打开开关;
- 点击插件卡片上的铅笔按钮可以编辑其源码;修改过的内置插件可以用
重置恢复原版。
按功能配置
LLM 配置 页中每个功能卡片都有独立的启用开关和提供商选择,不同任务可以使用不同的模型:
- 终端分类——在内置规则不足时分类终端状态。
最大连续失败次数表示连续失败达到该次数后禁用本次会话的 LLM(最小为 3); - Git 提交信息——从暂存的更改生成提交信息;
- Git 冲突解决——逐个冲突块解决 rebase/合并冲突;
- 语音文本润色——在发送前润色语音输入的转录文本;
- 翻译——将文本翻译成选定的目标语言。
展开卡片即可选择 提供商 并填写对应字段。功能未启用时配置也会被保存,启用后才生效。当多个功能使用同一提供商插件时,提供商配置 旁的复制/粘贴按钮可以在它们之间克隆字段值(见下文)。
终端和 Git 类功能提供带 自动 选项的输出语言(由模型判断);翻译使用显式的 English/简体中文目标语言列表。
在功能之间复制/粘贴
每个功能各自保存一份提供商字段,因此让多个功能共用同一提供商时,通常要在每张卡片里重复填写相同的 Base URL、API Key 和模型。提供商配置 标题旁有两个小按钮可以省去重复:
- 复制 —— 复制当前卡片中显示的字段值,连同它们所属的提供商插件;
- 粘贴 —— 仅当卡片中选择的提供商与被复制配置的插件相同时才出现;点击后把复制的值填入该卡片的字段。
例如要在 Git 提交信息和翻译之间共用同一端点:在第一张卡片里选择提供商并填好字段,点击复制,打开另一张卡片(已选择同一提供商)后点击粘贴。粘贴的值像其他字段编辑一样存入该功能自己的配置,并随配置一起保存。剪贴板仅限当前页面——离开 LLM 页即被清空。
OpenAI 兼容提供商
内置提供商兼容任何 OpenAI 格式的聊天 API。关键字段:
Base URL/API Key/Model——接口地址、凭据、模型名;Extra Body——合并进每个请求体的 JSON 对象,用于传递模型特定参数;Max Input Tokens/Max Output Tokens——提示词预算和补全上限;Timeout——单次请求超时(秒);本地慢模型可适当调大。
推荐模型
这些 AI 任务都是短小、对延迟敏感的提示词,快速的”甜点”模型比大型推理模型更合适:
- 本地:Qwen3.5 9B——是 Git 提交信息生成、终端分类、翻译和语音润色的甜点模型。用 OpenAI 兼容端点(Ollama、vLLM、llama.cpp)提供服务,并把
Base URL指向它; - API:DeepSeek V4 Flash(
deepseek-v4-flash)——速度足够快、能胜任上述全部功能的 API 调用模型。
思考模式会增加数秒延迟,对这类短任务帮助不大——建议在
Extra Body中关闭思考以获得更佳体验,例如 Qwen 用{"enable_thinking": false},DeepSeek 用{"thinking": {"type": "disabled"}}(具体字段取决于你的服务栈;该 JSON 会原样合并进请求体)。