首页/AI/AI 应用速查/GDPR 与 AI:权利、评估与自动化决策

GDPR 与 AI:权利、评估与自动化决策

面向欧盟用户时 GDPR 全面适用:处理需要合法性基础,自动化决策(第 22 条)受限制,用户享有访问/删除/反对等权利,高风险处理需 DPIA——训练数据与推理数据两头都要管。

AI 应用速查AI更新于 2026-10-13

GDPR 与 AI 的关系

面向欧盟用户提供产品时 GDPR 全面适用,而 AI 场景会把它的要求同时压到两头:训练阶段的语料与推理阶段的个人数据都属于处理行为。最容易踩的三处是合法性基础、仅自动化决策的限制,以及数据主体权利的响应能力。特别要注意删除请求的覆盖范围:如果用户数据既进了主库又进了训练数据与推理日志,「删了前端展示」并不构成合规响应。

基本信息

合法性基础同意、合同必需、正当利益等,至少具备一项并留存判断依据
正当利益必须完成平衡性测试并记录,不能只写在隐私政策里
自动化决策仅由自动化方式作出且对个人产生法律或重大影响的决定,原则上受限,例外需满足条件
影响评估高风险处理、大规模处理与自动化决策等情形需做数据保护影响评估
权利响应访问、更正、删除、反对、可携带,一般需在一个月内响应,可依规延长
覆盖范围训练数据、推理日志、备份都属于响应范围,不能只处理线上的展示数据

典型使用场景

  • 面向欧盟用户的对话与推荐产品:处理行为需要明确合法性基础
  • 使用用户数据做画像或个性化排序:属于自动化处理,影响评估难以回避
  • 用用户对话数据微调模型:训练数据的来源合法性与删除响应都要提前设计
  • 风控与信用类自动化决策:落入仅自动化决策的范畴,需要例外条件或人工介入
  • 用户行使访问与删除权:需要一套可执行、可留痕、有时限的处理流程

数据主体请求响应清单

数据主体请求响应清单
[ ] 访问:导出该用户在系统中的对话记录、画像与衍生标签
[ ] 删除:主库 + 备份 + 日志中的可识别数据,逐项确认覆盖范围
[ ] 训练数据:说明已进入训练集的数据如何处理,并记录处理策略
[ ] 反对:停止将数据用于训练或画像,并记录用户的选择与时间
[ ] 时限:一般一个月内响应,复杂请求可依规延长并告知理由
[ ] 留痕:请求内容、处理动作、执行人、完成时间全部留档
# 检查点:每季度抽一条删除请求走完整流程,确认真的删干净了

高风险点与动作

风险点监管要求落地动作
缺少合法性基础处理必须有依据逐场景登记依据并写入记录
正当利益无测试记录需证明做过权衡留存平衡性测试文档与结论
自动化决策无人工介入原则上受限且需保障提供人工复核入口并说明逻辑
删除不覆盖训练数据权利响应需有效制定数据影响评估与重训策略
缺少影响评估高风险处理需评估把评估作为上线前置条件
「模型已经训完所以删不掉」不是不响应的理由:合规要求的是能说明删除权在模型层面如何处理,包括数据影响评估结论与后续重训或过滤策略,而不是给出一个技术上的绝对否定。
影响评估与权利响应流程要在产品上线前就位:上线后补做的成本远高于提前设计,尤其是训练数据一旦使用就无法回收,只能靠流程证明当时的判断依据。

易错点

  • 只有正当利益却没有平衡性测试记录:监管问询时无法证明做过权衡,合法性基础站不住
  • 删除请求只清理前端展示:训练数据、备份与日志仍在,权利响应在实质上是无效的
  • 自动化决策没有人工介入通道:用户没有任何申诉路径,同时构成合规与体验双重问题
  • 影响评估推迟到上线后补:高风险处理已经开始,评估沦为事后文档
  • 隐私政策写得很全但系统里没有对应能力:声明与实现脱节,一旦被核查立刻暴露

数据来源与参考

  • GDPR(Regulation (EU) 2016/679)第 6/13/22/35 条等

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌