Astellas 员工在 Open WebUI 安全自托管平台上构建 420+ 个自定义 AI 模型

概述
Astellas Pharma Inc. 如何在 Azure 上使用 Open WebUI 构建安全、灵活的内部 AI 平台,使 3,000+ 名员工能够创建、自定义和共享生成式 AI 模型。用户自发构建了 420+ 个自定义模型,并在整个组织中获得了 +43 NPS。
一览
- 用户数:3,200+ 总用户;800+ 高级用户可访问最先进的模型
- 地区:全球(总部位于日本东京)
- 行业:制药
- 部署:Azure AKS(私有端点)
- 模型:Azure OpenAI、Gemini、DeepSeek、Perplexity
- 部署时间:约 1 个月(2025 年 4 月至 5 月)
- 采用率:5 个月内持续 30-40% 周活跃用户
- 关键成果:创建 420+ 个自定义模型,68% 的用户报告有显著效能提升,+43 NPS
关于 Astellas Pharma Inc.
Astellas Pharma Inc. 是一家全球生命科学公司,从事处方药的研究与开发、销售与营销以及制造。Astellas 在大约 70 个国家运营,拥有近 20,000 名员工和承包商,其使命是将创新科学转化为患者的价值。
挑战:灵活、安全的 AI,无供应商锁定
随着生成式 AI 能力快速发展,Astellas 需要一个能够跟上步伐、不将组织绑定到单一模型提供商的平台。该公司在几十个国家运营,管理复杂的监管环境,并支持跨越多种语言和学科的科学工作流。第三方 SaaS 工具提供了有限的集成选项、受限的定制,且缺乏全球制药公司所需的安全和合规控制。
目标是:部署安全的自托管 AI 平台,使从 R&D 和临床开发到药物警戒和合规的每个部门都能灵活地利用尖端模型,同时保持对安全、合规和数据治理的完全控制。
关键需求
- 灵活 的模型选择:自由选择和切换提供商
- 使用本地托管模型的选项:用于敏感分析
- 能够创建自定义模型:针对特定工作流进行定制
- 安全的共享和联合开发:在定义的群组内共享模型
- 技术集成:与内部和外部系统集成
解决方案:Azure 上的 Open WebUI
选择 Open WebUI 是因为其灵活性、细粒度权限控制和可扩展的架构,允许 Astellas 在其安全的私有环境中完全托管,同时支持自定义模型创建和基于群组的协作。
架构亮点
- 计算/编排:Kubernetes(AKS)集群,根据需求自动扩展
- 存储/数据库:Azure Database for PostgreSQL(静态加密;备份符合内部政策)
- 网络:VNet 隔离;应用网关配备私有端点用于 LLM API
- 机密:Azure Key Vault 与 Open WebUI 集成,用于安全凭证管理
- CI/CD:Azure DevOps 管道用于升级、配置部署和治理控制
- 日志/监控:API 管理服务、Azure 仪表板、Databricks
- 安全控制:通过 IdP 的 MFA、基于群组的 RBAC、强制执行数据驻留
"Open WebUI 允许我们在整个公司安全地创建和共享自定义 AI 模型,同时给我们灵活性来充分利用任何可用的尖端模型。" - Astellas 生成式 AI 团队经理
模型和数据处理
Astellas 采用多模型、多提供商策略,为每项任务提供合适的工具:
- 主要:Azure OpenAI 模型
- 研究增强:Gemini、DeepSeek、Perplexity(网络搜索增强)
- 模型选择:高级用户可以选择所有可用模型;初级用户提供精选选项以便使用。默认模型由用户群组分配,支持手动切换
- RAG:嵌入模型和分块大小针对性能优化。来源包括 SOP、监管政策文档和外部医学研究数据
- 敏感数据处理:采用刻意的治理优先方法。所有用户在获得访问权限前完成保密数据处理培训;使用情况受监控以确保合规;对共享知识和模型的访问由强制执行最小权限原则的操作流程设计控制
采用和赋能
Astellas 采取了全面的赋能方法,运行了为 2,000+ 名员工进行为期两个月的入职计划,涵盖演示、互动研讨会和实践会议。组织范围的赋能在推出期结束前完成。
培训包括:
- 生成式 AI 基础的交互式会议
- Open WebUI 操作培训,涵盖模型创建和共享
- 办公时间用于高级使用和问答
在接下来的几个月中: