自动化决策是什么
自动化决策指通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或经济、健康、信用状况等,并在没有人工干预的情况下作出决定。个性化推荐、风控评分、智能定价都属于这一范畴。法律关注两点:过程要透明、结果要公平,个人对重大影响的决定有权拒绝。
基本信息
| 依据 | 个人信息保护法第 24 条;互联网信息服务算法推荐管理规定 |
|---|---|
| 核心义务 | 保证决策透明度和结果公平公正,不得实行不合理差别待遇 |
| 告知义务 | 以显著方式告知自动化决策的基本逻辑与对个人权益的影响 |
| 拒绝权 | 信息推送与商业营销须提供不针对个人特征的选项或便捷拒绝方式 |
| 重大影响 | 个人有权要求说明,并有权拒绝仅通过自动化决策作出决定 |
| 前置动作 | 事前开展个人信息保护影响评估并留存报告 |
典型使用场景
- 电商与内容平台的个性化推荐开关与一键关闭入口
- 信贷、招聘、保险场景的自动评分,涉及重大影响需提供人工复核通道
- 会员与营销短信的定向投放,需要提供便捷退订与不针对个人特征的选项
- 老用户与差异人群的定价策略,需评估是否构成不合理差别待遇
- 算法推荐服务上线前的备案与算法机制说明材料准备
合规动作
合规动作
1 说明:向个人说明自动化决策的基本逻辑与可能影响
2 拒绝入口:提供关闭个性化推荐/营销的开关
3 差别待遇:不得在交易价格等条件上实行不合理差别待遇
4 重大影响:提供人工复核与拒绝通道
5 评估:事前完成个人信息保护影响评估决策类型与要求对照
| 决策类型 | 主要要求 | 落地检查点 |
|---|---|---|
| 信息推送与商业营销 | 提供不针对个人特征的选项或便捷拒绝 | 开关是否可达、关闭后是否真实生效 |
| 风控与信用评分 | 透明度、人工复核、拒绝权 | 拒绝后是否有替代流程而非直接拒绝服务 |
| 智能定价 | 不得实行不合理差别待遇 | 价格差异是否有成本或风险依据可解释 |
| 标签与画像加工 | 目的限定与评估 | 画像字段来源与使用范围是否有台账 |
《互联网信息服务算法推荐管理规定》(2022-03-01 施行)对算法推荐服务另有告知、用户选择与备案要求,与个人信息保护法并行适用。
影响评估不必写成论文:说明数据来源、决策逻辑要点、可能影响、已采取的缓和措施与评估结论即可,关键是能对应到实际系统。
个性化推荐关闭后若仍按用户画像投放(例如仅隐藏入口而逻辑仍在运行),属于典型形式合规,专项检查时容易被抓。