个保法在 AI 场景的要点
《个人信息保护法》（2021 年 11 月 1 日施行）贯穿 AI 产品全链路：处理个人信息要有合法性基础，敏感信息需单独同意，自动化决策要保证透明度与公平，处理敏感信息等场景要做个人信息保护影响评估，个人权利请求要有响应渠道。AI 产品的特殊风险集中在三处：对话内容是否用于训练、自动化决策的可解释与申诉、以及数据共享给第三方模型的披露。
基本信息
| 依据 | 《中华人民共和国个人信息保护法》，2021 年 11 月 1 日施行 |
|---|---|
| 合法性基础 | 同意等法定情形，需明确告知处理目的与方式 |
| 敏感信息 | 生物识别、医疗健康、行踪轨迹等需单独同意 |
| 自动化决策 | 应保证透明度与公平，提供拒绝或人工复核途径 |
| 影响评估 | 处理敏感信息等场景需做个人信息保护影响评估 |
| 个人权利 | 查阅、复制、更正、删除等请求需有响应机制 |
AI 产品的重点义务
| 方面 | 要求 | 落地动作 |
|---|---|---|
| 告知同意 | 说明收集内容、用途、存储期限 | 分层说明并区分必要与非必要处理 |
| 训练使用 | 将对话用于训练的需另行告知同意 | 默认关闭，开启时单独提示 |
| 第三方共享 | 向境外或第三方模型传输需披露 | 在政策中列明接收方与用途 |
| 自动化决策 | 透明与公平，提供拒绝或人工途径 | 给出申诉入口与人工复核流程 |
| 影响评估 | 按规定开展并留存评估记录 | 随功能与数据处理方式变更更新 |
| 个人权利 | 提供查阅、更正、删除的通道 | 产品内可自助操作并在承诺时限内响应 |
典型使用场景
- 对话产品：明确对话内容是否入库、是否用于模型改进
- 简历与工单处理：涉及个人信息的自动分类与评分需提供人工复核
- 身份核验：人脸等生物识别信息需单独同意并说明必要性
- 客服质检：录音与对话转写涉及个人信息处理，需明确告知
- 跨境外呼模型：数据流向境外需评估并在政策中披露
产品隐私设计清单
产品隐私设计清单
[ ] 对话数据是否用于训练？默认关闭，开启需单独告知同意
[ ] 隐私政策写明：收集内容、用途、存储期限、共享对象
[ ] 涉及境外模型或第三方服务时单独披露
[ ] 用户可自行查阅、导出与删除对话记录
[ ] 自动化决策（评分、审核、推荐）提供申诉与人工复核
[ ] 敏感个人信息处理前完成影响评估并留档
[ ] 日志留存期限与删除机制明确可执行常见风险与后果
| 做法 | 风险 | 建议 |
|---|---|---|
| 对话默认用于训练 | 缺少单独同意，用户投诉与监管风险高 | 默认关闭，开启时明确提示 |
| 一键勾选同意全部条款 | 同意缺少针对性与自愿性 | 按处理目的分层获取同意 |
| 把数据交给第三方模型未披露 | 共享行为未告知，责任边界不清 | 在政策中列明并评估接收方 |
| 自动化决策无申诉通道 | 用户无法对不利结果提出异议 | 提供申诉入口与人工复核 |
| 影响评估缺失 | 合规检查时无法证明已履行义务 | 随版本更新评估结论 |
个人信息保护影响评估不是一次性工作：数据处理方式、共享对象或功能定位发生变化时，都要重新评估并更新记录。
把用户对话默认纳入模型训练是高风险默认项：收益有限，而一旦被用户发现，信任与合规成本都很高。