防御要点
防御要点
1) 图片与附件文字转写结果放入数据区,不具指令权限
2) 对 OCR 结果做指令样式检测(与文本通道同一套规则)
3) 高权限代理不直接读未审核附件
4) 记录原始附件哈希,便于溯源| 场景 | 客服工单截图、扫描件、宣传图、二维码内容 |
|---|---|
| 一致性 | 文本、图像、文件三条通道的防护策略要统一 |
| 人工 | 高风险动作前人工核对原始载体内容 |
图片、音频、附件也能携带指令文本:模型读图时会解读图片里的文字;防控思路与文本注入一致,入口更多元。
1) 图片与附件文字转写结果放入数据区,不具指令权限
2) 对 OCR 结果做指令样式检测(与文本通道同一套规则)
3) 高权限代理不直接读未审核附件
4) 记录原始附件哈希,便于溯源| 场景 | 客服工单截图、扫描件、宣传图、二维码内容 |
|---|---|
| 一致性 | 文本、图像、文件三条通道的防护策略要统一 |
| 人工 | 高风险动作前人工核对原始载体内容 |