流程四步
流程四步
1) 定目标：代理类系统定义“可被利用的行为清单”
2) 限范围：隔离环境与专用测试数据，不碰生产
3) 记录：输入、路径、命中层、影响评估
4) 修复：修复后进回归集，同类变体一起验证| 纪律 | 只做防御验证，不制作可扩散的利用工具 |
|---|---|
| 产出 | 按影响分级的问题清单与修复建议 |
| 节奏 | 重大版本前加定期例行，两者结合 |
红队评估的组织流程（防御视角）
定期红队：定目标（找到能触发越权或外发的最小路径）、限范围（隔离环境）、完整记录、修复后回归验证。
易错点
- 红队发现的问题不回流回归集会重复出现；修复即补用例
- 在共享环境测试可能影响他人数据；用隔离环境
数据来源与参考
- 红队（red teaming）流程在 LLM 安全中的应用；NIST AI 100-2（2024）测试与评估建议