| 显式缓存 | 预创建缓存对象(含 TTL),请求引用缓存名 |
|---|---|
| 隐式缓存 | 对重复前缀自动折扣,无需配置(有最小 token 门槛) |
| 适用 | 长视频/长文档反复问答、批处理同一资料集 |
| 注意 | 缓存按存活时长计费,要与访问频率匹配 |
显式缓存流程(概念)
显式缓存流程(概念)
1) 创建缓存:上传长文档 → 得到 cachedContents/xxxx(设定 TTL)
2) 请求时引用:generateContent 里指定 cachedContent
3) 后续提问复用同一缓存,直至过期
4) 任务结束主动删除,避免 TTL 内闲置计费缓存有“最小 token 门槛 + 按时长计费”双重约束:先算访问频率够不够覆盖成本,再启用。