GDPR 与 AI 的关系
面向欧盟用户提供产品时 GDPR 全面适用,而 AI 场景会把它的要求同时压到两头:训练阶段的语料与推理阶段的个人数据都属于处理行为。最容易踩的三处是合法性基础、仅自动化决策的限制,以及数据主体权利的响应能力。特别要注意删除请求的覆盖范围:如果用户数据既进了主库又进了训练数据与推理日志,「删了前端展示」并不构成合规响应。
基本信息
| 合法性基础 | 同意、合同必需、正当利益等,至少具备一项并留存判断依据 |
|---|---|
| 正当利益 | 必须完成平衡性测试并记录,不能只写在隐私政策里 |
| 自动化决策 | 仅由自动化方式作出且对个人产生法律或重大影响的决定,原则上受限,例外需满足条件 |
| 影响评估 | 高风险处理、大规模处理与自动化决策等情形需做数据保护影响评估 |
| 权利响应 | 访问、更正、删除、反对、可携带,一般需在一个月内响应,可依规延长 |
| 覆盖范围 | 训练数据、推理日志、备份都属于响应范围,不能只处理线上的展示数据 |
典型使用场景
- 面向欧盟用户的对话与推荐产品:处理行为需要明确合法性基础
- 使用用户数据做画像或个性化排序:属于自动化处理,影响评估难以回避
- 用用户对话数据微调模型:训练数据的来源合法性与删除响应都要提前设计
- 风控与信用类自动化决策:落入仅自动化决策的范畴,需要例外条件或人工介入
- 用户行使访问与删除权:需要一套可执行、可留痕、有时限的处理流程
数据主体请求响应清单
数据主体请求响应清单
[ ] 访问:导出该用户在系统中的对话记录、画像与衍生标签
[ ] 删除:主库 + 备份 + 日志中的可识别数据,逐项确认覆盖范围
[ ] 训练数据:说明已进入训练集的数据如何处理,并记录处理策略
[ ] 反对:停止将数据用于训练或画像,并记录用户的选择与时间
[ ] 时限:一般一个月内响应,复杂请求可依规延长并告知理由
[ ] 留痕:请求内容、处理动作、执行人、完成时间全部留档
# 检查点:每季度抽一条删除请求走完整流程,确认真的删干净了高风险点与动作
| 风险点 | 监管要求 | 落地动作 |
|---|---|---|
| 缺少合法性基础 | 处理必须有依据 | 逐场景登记依据并写入记录 |
| 正当利益无测试记录 | 需证明做过权衡 | 留存平衡性测试文档与结论 |
| 自动化决策无人工介入 | 原则上受限且需保障 | 提供人工复核入口并说明逻辑 |
| 删除不覆盖训练数据 | 权利响应需有效 | 制定数据影响评估与重训策略 |
| 缺少影响评估 | 高风险处理需评估 | 把评估作为上线前置条件 |
「模型已经训完所以删不掉」不是不响应的理由:合规要求的是能说明删除权在模型层面如何处理,包括数据影响评估结论与后续重训或过滤策略,而不是给出一个技术上的绝对否定。
影响评估与权利响应流程要在产品上线前就位:上线后补做的成本远高于提前设计,尤其是训练数据一旦使用就无法回收,只能靠流程证明当时的判断依据。