Ollama
概览
Open WebUI 可以很方便地连接并管理你的 Ollama 实例。本指南将带你完成连接配置、模型管理以及快速上手。
面向协议的设计
Open WebUI 的设计是**面向协议（Protocol-Oriented）**的。当我们提到 “Ollama” 时，具体指的是 Ollama API 协议（通常运行在 11434 端口）。
尽管某些工具可能提供基础兼容，但这一连接类型针对 Ollama 服务本身的独特能力做了优化，例如原生模型管理，以及直接通过管理界面拉取模型。
如果你的后端主要遵循 OpenAI 标准（例如 LocalAI 或 Docker Model Runner），我们建议使用兼容 OpenAI 的服务指南以获得最佳体验。
第 1 步： 设置 Ollama 连接
当 Open WebUI 安装并启动后，它会自动尝试连接你的 Ollama 实例。如果一切顺利，你可以立即开始管理和使用模型。
如果连接失败，最常见原因通常是网络配置错误。你可以参考我们的连接故障排查指南来解决。
第 2 步：管理你的 Ollama 实例
在 Open WebUI 中管理 Ollama 的步骤如下：
- 打开 Open WebUI 中的 Admin Settings。
- 进入 Connections > Ollama > Manage（点击扳手图标）。 在这里，你可以下载模型、调整设置并管理 Ollama 连接。
连接提示
- Docker 用户： 如果 Ollama 运行在宿主机上，请使用
http://host.docker.internal:11434作为 URL。 - 负载均衡： 你可以添加多个 Ollama 实例。Open WebUI 会采用随机选择策略在它们之间分发请求，从而为并发用户提供基础负载均衡。
- 注意： 要启用这一点，必须确保各实例中的 Model ID 完全一致。如果使用了 Prefix ID，它们也必须一致（或都为空），这样模型才会合并为同一条目。
高级配置
- Prefix ID： 如果你有多个 Ollama 实例都在提供相同模型名，可加上前缀（例如
remote/）加以区分。 - Model IDs (Filter)： 在这里列出需要展示的特定模型（白名单）。留空则显示全部。
使用多个 Ollama 实例时（尤其跨网络时），如果某个端点不可达，就可能带来连接延迟。你可以通过以下方式调整超时：
# 降低超时（默认 10 秒）以加快故障切换
AIOHTTP_CLIENT_TIMEOUT_MODEL_LIST=3如果你保存了一个不可达 URL，导致连 Settings 都打不开，请参见 模型列表加载问题 故障排查页面。
下面是管理界面的样子：
快速高效下载模型
如果你想更快开始，也可以直接在 模型选择器 中下载模型。只需输入模型名称；如果本地尚未可用，Open WebUI 会提示你直接从 Ollama 下载。
示例如下：
如果你不想在 Admin Settings 菜单里来回切换，而是想直接开始用模型，这种方式会非常方便。
卸载已加载的模型
Open WebUI 会在任何当前被 Ollama 运行时保活的模型旁显示一个绿色的 "Loaded" 指示符；管 理员还会在模型行看到一个 Eject 按钮，无需重启服务即可将其卸载。背后 Open WebUI 会调用 POST /api/models/unload（仅管理员可用），向提供该模型的每一个 Ollama 节点转发一个 keep_alive=0 的 generate 请求。
当你需要在多个大模型之间切换、释放 GPU / VRAM，或者在拉取新版本后希望强制重新加载时，这非常有用。如果尝试卸载的模型所在提供商不支持卸载，将直接返回错误，而不是静默失败。
使用推理 / Thinking 模型
如果你使用的是 DeepSeek-R1 或 Qwen3 这类会在 <think>...</think> 标签中输出思考内容的推理模型，则需要在 Ollama 中配置 reasoning parser 才能正确显示。
配置 reasoning parser
使用 --reasoning-parser 参数启动 Ollama：
ollama serve --reasoning-parser deepseek_r1这样可以确保思考块与最终答案被正确分离，并在 Open WebUI 中显示为可折叠区域。
deepseek_r1 解析器适用于大多数推理模型，包括 Qwen3。如果遇到问题，请查看我们的推理与思考模型指南，了解其他解析器与详细排查方法。
一切就绪！
就是这样！完成连接配置并下载好模型后，你就可以在 Open WebUI 中开始使用 Ollama 了。无论是探索新模型，还是继续使用已有模型，Open WebUI 都能让整个过程保持简单高效。
如果遇到问题或需要更多帮助，请查看我们的帮助页面。祝你使用 Ollama 愉快！🎉