canary 设计要点
canary 设计要点
1) 使用唯一随机串，不与环境真实内容冲突
2) 监控出口：输出文本、外发请求参数、日志
3) 命中即告警并阻断该会话的外发通道
4) 定期轮换 canary，防止被学习进缓存或样本| 价值 | 把“怀疑可能泄露”变成可观测的确定性信号 |
|---|---|
| 范围 | 输出、链接、请求头、日志都要监控 |
| 轮换 | 标记长期不变会降低检测意义 |
canary 标记检测泄露
在系统提示或内部数据中放置 canary 标记值：它出现在输出或外部请求里即说明发生泄露或外发，可立即告警。
易错点
- canary 放在模型可见处会被诱导复述，这是有意设计；重点监控出口
- 把 canary 当真实凭据使用会引入新风险；仅作检测标记
数据来源与参考
- OWASP LLM02 敏感信息泄露缓解思路；LLM 应用数据外泄检测实践