AI Models(AI 模型)
配置 LLM 提供商 —— 密钥、模型、Base URL,以及当前提供商。
AI Models 标签页(nevoflux://settings/llm)用于连接 LLM 提供商。这也是首次运行
设置引导带你前往的标签页。
布局
该标签页自上而下分为四组:
- On-device —— 在本机运行模型(v0.3.16 新增)。见下文。
- LLM Providers —— 云端 API(Anthropic、OpenAI、DeepSeek、Qwen、Gemini、Groq、 OpenRouter、Mistral、xAI/Grok、Cohere、Perplexity、Together)和 local(Ollama)。
- Agents —— 命令行/智能体类提供商(Claude Code、Antigravity、Kimi Agent、OpenClaw)。
- Custom Providers —— 你自己添加的端点(v0.3.15 新增)。见下文。
v0.3.12 起,Antigravity 取代了 Gemini CLI 磁贴。它免密钥,但需要
agy与antigravity-acp两个 CLI 位于PATH中 —— 见 提供商与 API 密钥。若在config.toml中直接配置,gemini-cli提供商仍可使用。
当前提供商的卡片会显示 Active 徽标;已配置的卡片会显示对勾。
配置提供商
点击卡片打开 Configure Provider 对话框:
| 字段 | 说明 |
|---|---|
| API Key | 保存到 config.toml;设置后显示 "configured" |
| Model | 可选;提示中会显示该提供商的默认模型 |
| Base URL | 可选;用于代理 / 兼容端点(CLI 类提供商会隐藏此项) |
| Set as active provider | 设为智能体使用的提供商 |
保存会把 [llm.<provider>](api_key、model、base_url)写入
config.toml;若勾选则设为当前提供商。
示例: 点击 Anthropic,粘贴密钥,可选地把模型设为 claude-sonnet-4-20250514,
勾选 Set as active provider,保存。侧边栏即可开始回答。
提供商完整列表及可替代写入此处的环境变量,见 配置 → 提供商与 API 密钥。
On-device
On-device inference 卡片会下载并运行一个本地模型,无需 API 密钥。Set up 会检查 本机,并打开一个同意对话框,列出将要下载的确切内容(引擎和模型、大小、来源、剩余磁盘 空间)——在你点击 Download 之前不会下载任何东西。安装完成后,Set as default 会把 它设为当前提供商,卡片下方会出现 Model、Backend 和 Context 选择器。
本地推理生效期间,NevoFlux 会拒绝发往本机之外的模型请求。此时选择云端提供商需要你确认 (Switch anyway / Keep on-device),且更改在 NevoFlux 重启后才生效。详细说明、 硬件支持以及本地模式带来的变化,见本地模型。
自定义提供商
点击 Add Custom Provider,即可连接任何 OpenAI 兼容或 Anthropic 端点——自建模型、 公司网关或代理:
| 字段 | 说明 |
|---|---|
| Name | 显示在卡片上;之后可随时改名 |
| API Type | OpenAI-compatible 或 Anthropic |
| API Key | 可选——免密钥端点留空即可 |
| Model | 端点所需的模型 id |
| Base URL | 必填。OpenAI 兼容端点请包含版本路径,如 https://host/v1 |
| Context Window | 默认 128000(OpenAI 兼容)/ 200000(Anthropic);用于确定上下文压缩时机 |
| Enable streaming (SSE) | 默认开启;对不能正常流式输出的服务请关闭 |
| Card Colour | 可选,卡片的强调色 |
| Set as active provider | 设为智能体使用的提供商 |
每张自定义卡片都有菜单,可 Edit 或 Delete。删除当前使用的提供商时,会切换到另一个
已配置的提供商。它们在 config.toml 中的保存方式见
提供商 → 自定义提供商。