OpenRouter 在 2026 年 5 月完成 1.13 亿美元 B 轮融资，由 CapitalG 领投，估值达到 13 亿美元。这家成立仅数年的公司，每周处理的 Token 量已从半年前的 5 万亿激增至 25 万亿，服务超过 800 万开发者，接入 400 余个模型和 60 余家提供商。其定位并非简单的模型聚合层，而是面向生产环境的统一 AI 基础设施网关。
架构定位：控制层与数据平面的分离
从系统架构视角审视，OpenRouter 的核心设计可抽象为控制层与数据平面的分离。控制层负责路由决策，基于成本、延迟、质量、可用性等策略选择目标模型与提供商；数据平面则承担请求转发职责，向上暴露单一标准化的 OpenAI 兼容端点，向下屏蔽不同提供商的接口差异。
这种分层设计带来的直接收益是集成成本的显著降低。应用层只需对接一个端点，即可在 400 余个模型间无缝切换，无需为每个提供商维护独立的 SDK 和认证凭证。对于从单模型试点向多模型生产系统迁移的团队而言，这意味着可以将提供商特定的复杂性收敛到网关层，而非分散在每个服务实例中。
多模型路由策略：三维度权衡
OpenRouter 的路由策略围绕三个核心维度展开：价格、延迟、吞吐量。默认策略采用基于价格的负载均衡，同时纳入可用性因子进行加权。
价格优先策略下，系统以价格的倒数平方作为权重进行概率路由。假设 Provider A 定价为每百万 Token 1 美元，Provider B 为 2 美元，Provider C 为 3 美元，则 Provider A 的选中概率是 Provider C 的 9 倍。这种设计在保证成本可控的同时，避免了将所有流量集中到单一低价节点可能引发的容量问题。
延迟优先策略通过 sort: "latency" 参数启用，适用于实时交互场景。系统基于 5 分钟滑动窗口计算各端点的 P50、P75、P90、P99 延迟百分位，优先路由至低延迟节点。对于需要严格响应时间保证的应用，可设置 preferred_max_latency 阈值，超出阈值的端点将被降级为后备选项。
吞吐量优先策略通过 :nitro 后缀或 sort: "throughput" 启用，适合批处理任务。该策略优先选择当前处理能力充足的端点，避免因队列积压导致的超时。
此外，OpenRouter 支持跨模型的全局排序。通过设置 partition: "none"，系统可在多个候选模型间统一比较性能指标，而非固定按模型优先级尝试。这在多模型可互换场景下尤为实用，例如当主模型队列拥堵时自动切换至性能相当的备用模型。
容错机制：实时监控与自动降级
生产级网关的核心能力在于对故障的感知与恢复。OpenRouter 持续监控所有提供商的响应时间、错误率和可用性状态，数据更新频率达到近实时级别。
默认路由流程遵循三级容错机制：首先过滤掉过去 30 秒内出现显著故障的提供商；然后在稳定提供商中按价格权重选择主节点；最后将剩余节点纳入后备池。当主节点返回错误或超时，请求自动降级至后备节点，整个过程对应用层透明。
对于关键业务场景，可通过 allow_fallbacks: false 禁用自动降级，强制仅使用指定提供商，配合 order 参数精确控制优先级顺序。若需进一步限制范围，可使用 only 字段白名单或 ignore 字段黑名单过滤特定提供商。
在数据合规层面，OpenRouter 支持零数据保留（ZDR）强制路由。通过设置 zdr: true，请求仅会被路由至承诺不保留提示数据的端点。结合 data_collection: "deny" 参数，可排除可能将用户数据用于模型训练的提供商。
企业级治理：成本与合规控制
随着 AI 应用从实验走向生产，成本管控与合规治理成为刚需。OpenRouter 提供多层次的治理机制：
预算控制方面，支持按工作空间设置支出限额，配合实时用量监控防止预算超支。** 护栏（Guardrails）** 功能允许配置模型白名单、提供商限制、提示注入防御、数据丢失防护等策略，在网关层统一执行安全策略，避免在每个应用中重复实现。
性能阈值机制允许设置 preferred_min_throughput 和 preferred_max_latency，结合百分位统计确保 SLA 合规。例如，设置 P90 延迟不超过 2 秒，意味着 90% 的请求将在该时限内完成，为实时应用提供可预期的服务质量。
**BYOK（Bring Your Own Key）** 模式允许企业使用自有 API 密钥访问特定提供商，在享受统一路由能力的同时保持直接计费关系。当启用 partition: "none" 时，若主模型无 BYOK 配置而备用模型有，系统可自动路由至支持 BYOK 的备用端点。
实践建议：接入参数与监控清单
基于上述架构特性，以下是生产接入时的关键参数配置建议：
路由策略选择：
- 成本敏感型任务：默认价格负载均衡，无需额外参数
- 实时交互场景：
sort: "latency"+preferred_max_latency阈值 - 批处理任务：
model:nitro或sort: "throughput" - 多模型可互换：
partition: "none"启用全局性能比较
容错配置：
- 高可用要求：保持默认自动降级，监控
fallback_count指标 - 合规严格要求：
allow_fallbacks: false+order指定优先级 - 数据敏感场景：
zdr: true+data_collection: "deny"
监控 checklist：
- 按模型 / 提供商的 Token 消耗与成本分布
- 路由降级频率与原因分类（错误码、超时、容量）
- P50/P90/P99 延迟趋势与阈值告警
- 各提供商可用性百分比（目标 > 99.9%）
- 预算使用率与预测
总结
OpenRouter 的架构设计体现了 AI 基础设施向生产就绪演进的关键方向：统一抽象降低集成成本、智能路由优化成本与性能、多层容错保障可用性、集中治理满足企业合规需求。对于正在构建多模型 AI 应用的团队，理解其控制层与数据平面的分离逻辑，合理配置路由策略与容错参数，是充分发挥这一基础设施价值的前提。
随着 1.13 亿美元融资的注入，OpenRouter 计划继续扩展智能路由能力、深化企业功能、并支撑年处理千万亿 Token 规模的 infrastructure。对于开发者而言，这意味着在享受模型多样性红利的同时，可以将更多精力聚焦于应用层创新，而非底层提供商的差异化适配。
资料来源：
- OpenRouter 官方公告：OpenRouter Raises $113M Series B
- OpenRouter 文档：Provider Routing、Uptime Optimization
内容声明：本文无广告投放、无付费植入。
如有事实性问题，欢迎发送勘误至 i@hotdrydog.com。