跳到主要内容

在 Open WebUI 中集成 Helicone

注意

本教程由社区贡献，不属于 Open WebUI 团队官方支持范围。内容仅用于演示如何根据你的特定场景自定义 Open WebUI。想参与贡献？请查看贡献教程。

Helicone 是一个开源 LLM 可观测性平台，帮助开发者监控、调试并优化生产就绪应用，包括你的 Open WebUI 部署。

启用 Helicone 后，你可以记录 LLM 请求、评估和实验提示词，并快速获得洞察，帮助你更有信心地将变更推向生产环境。

  • 跨模型类型统一实时监控：在单一界面同时监控本地 Ollama 模型与云端 API
  • 请求可视化与回放：查看 Open WebUI 向各模型发送的提示词及 LLM 生成输出，便于评估
  • 本地 LLM 性能跟踪：衡量自托管模型的响应时间与吞吐量
  • 按模型的使用分析：对比 Open WebUI 中不同模型的使用模式
  • 用户分析：了解交互行为模式
  • 调试能力：排查模型响应问题
  • 成本跟踪：统计跨提供商的 LLM 使用成本

如何将 Helicone 集成到 OpenWebUI​

第 1 步：创建 Helicone 账号并生成 API key​

创建 Helicone 账号并登录，生成 API key。

— 请务必生成 write only API key。这样可只允许写入日志数据到 Helicone，而不会授予读取你私有数据的权限。

第 2 步：创建 OpenAI 账号并生成 API key​

创建 OpenAI 账号，并登录 OpenAI Developer Portal 生成 API key。

第 3 步：使用 Helicone 的 base URL 运行 Open WebUI​

首次启动 Open WebUI 时，可参考 Open WebUI 文档中的命令，并加入 Helicone 的 API BASE URL，以便自动接入查询与监控。

  # 设置环境变量
   export HELICONE_API_KEY=<YOUR_API_KEY>
   export OPENAI_API_KEY=<YOUR_OPENAI_API_KEY>

  # 启动集成 Helicone 的 Open WebUI
   docker run -d -p 3000:8080 \
     -e OPENAI_API_BASE_URL="https://oai.helicone.ai/v1/$HELICONE_API_KEY" \
     -e OPENAI_API_KEY="$OPENAI_API_KEY" \
     --name open-webui \
     ghcr.io/open-webui/open-webui

如果你已部署 Open WebUI，可进入 Admin Panel > Settings > Connections，点击 “Managing OpenAI API Connections” 的 + 号，并更新以下字段：

  • API Base URL 设置为 https://oai.helicone.ai/v1/<YOUR_HELICONE_API_KEY>
  • API KEY 设置为你的 OpenAI API key。

Open WebUI Helicone Setup

第 4 步：确认监控正常工作​

为确认集成成功，请登录 Helicone 控制台并查看 “Requests” 标签页。

你应能看到通过 Open WebUI 发起的请求已经记录在 Helicone 中。

Example Helicone Trace

了解更多​

如需更完整的 Helicone 指南，可参考 Helicone 官方文档。

本内容仅供参考，不构成任何保证、担保或合同承诺。Open WebUI 按“现状”提供。请参阅您的许可协议 以了解适用条款。