AI 辅助研发要治理什么
生成式 AI 进入编码、测试与文档环节后，治理对象不只是工具本身，而是三件事：外部工具会不会带走数据、AI 产出的代码能否商用、出了问题谁负责。可行做法是把 AI 产物纳入既有的评审、扫描与留痕流程，而不是另开一套特殊通道。
治理四要素
| 数据边界 | 明确哪些内容不得粘贴进外部模型，如生产数据、密钥、客户信息 |
|---|---|
| 代码来源 | AI 生成代码需声明，并核查许可与来源不明的片段 |
| 质量责任 | 提交者仍是第一责任人，必须通过评审与自动化检查 |
| 留痕 | 记录所用工具、模型版本与场景，便于事后审计回溯 |
典型使用场景
- 制定公司级 AI 编码工具使用规范，明确白名单与禁用场景
- 改造代码评审：AI 参与度高的模块提高审查强度与测试覆盖要求
- 安全扫描联动：对 AI 生成代码同样执行依赖、密钥与许可检查
- 采购评估：对比自托管模型与外部接口的数据留存条款
- 新人培训：讲清哪些上下文可以喂给模型、哪些必须先脱敏
使用规范要点示例
使用规范要点示例
允许：仓库上下文内使用企业版编码助手
禁止：把生产日志、密钥、客户名单粘贴到外部对话式工具
要求：AI 生成代码在提交信息中标注，走同等评审
要求：资金、鉴权、加密模块由人工逐行复核
留痕：记录工具名称、模型版本与生成日期
# 规范要写进代码评审清单，而不是只发一份通知风险与控制对照
| 风险 | 后果 | 控制措施 |
|---|---|---|
| 数据外泄 | 敏感信息进入第三方语料 | 工具白名单、脱敏、出网审计 |
| 许可污染 | 引入来源不明的开源片段 | 依赖与许可扫描、来源核查 |
| 责任模糊 | 缺陷无人认领、评审走过场 | 提交者负责制、必过流水线 |
| 过度依赖 | 判断力退化、方案同质化 | 关键设计仍需人工论证与评审 |
一刀切禁用通常适得其反：员工会转向个人账号与灰色工具，数据反而流出管控范围；应先提供合规替代品，再划定红线。