网关职责
| 能力 | 解决的问题 |
|---|---|
| 密钥托管 | key 不进业务代码,统一轮换 |
| 配额与鉴权 | 多租户限流、防内部滥用 |
| 审计日志 | 谁调了什么、留痕可查 |
| 缓存/路由/降级 | 降本与稳定性(多供应商热备) |
| 内容安全 | 统一输入输出过滤策略 |
调用路径(对比)
调用路径(对比)
散落直连:业务A → 厂商API;业务B → 厂商API
问题:密钥多份、无审计、无配额、涨价只能硬扛
统一网关:业务A/B/C → AI 网关 → 多供应商
收益:一处治理(审计/配额/缓存/降级),切换供应商不改业务网关自身要避免单点:多实例部署 + 明确过载降级策略,否则治理点变成全站故障点。