沧云 AI 网关
企业级 AI 流量治理平台:统一接入多家模型,多租户密钥认证、限流配额、用量计费与智能路由一站式解决。
申请试用 →为什么选择沧云 AI 网关
痛点:多团队直连模型厂商,密钥散落、权责不清
统一网关入口 + 多租户密钥体系,一处管控全局
痛点:AI 用量成本黑盒,月底账单无法归因
请求级计量管道,token 用量按租户对账(0% 误差验收)
痛点:个别团队突发流量拖垮共享模型配额
租户级限流与配额策略,故障隔离互不影响
痛点:模型切换与多活需要改业务代码
网关侧模型路由与协议转换,业务零改动切换模型
功能特性
多租户管理
租户、密钥、配额三级模型,配套品牌化管理控制台。
密钥认证
自研 wasm 认证插件,动态凭据源分钟级生效,无需重启网关。
限流与配额
租户级 QPS 限流与周期配额,超限返回标准错误码。
计量与计费
请求级 token 计量管道,账单导出与对账支持。
模型路由
按模型名、租户或权重路由到不同上游,支持灰度与回退。
云原生架构
基于 Envoy/Higress 内核与 wasm 插件机制,K8s 原生部署。
部署与交付
- ✓K8s / k3s 集群部署,Helm Chart 一键安装
- ✓单机 Docker Compose 轻量形态,适合 PoC 与小规模
- ✓国内网络环境适配:镜像加速与离线安装包
- ✓已通过真机 K8s E2E 验收(多租户/限流/计费全链路)
常见问题
支持哪些上游模型服务?
支持 OpenAI 协议兼容的模型服务,包括公有云模型 API 与企业自建推理服务。
与开源 Higress 是什么关系?
基于 Higress 内核构建,叠加沧云自研的认证、计量、路由 wasm 插件与品牌化控制台,提供商业支持与合规声明。
计费数据的准确性如何保证?
计量管道经过对账验收,网关侧统计与上游账单误差为 0%,支持按租户导出明细。