算法备案与安全评估是什么
具有舆论属性或社会动员能力的算法服务,包含生成合成类在内,需要在算法备案系统登记,并配套开展安全评估。义务来源主要是算法推荐相关规定与生成式人工智能服务管理相关规定这两条线。备案不是一次性动作,而是持续义务:算法发生重大变更、服务形式或域名调整、乃至服务下线,都要同步更新备案信息。实践中常见的风险是自行判断「我们不具备舆论属性」而跳过备案,这种自判定的空间很小,建议按较保守口径处理并与法务确认。
基本信息
| 适用对象 | 具有舆论属性或社会动员能力的算法服务,含生成合成类 |
|---|---|
| 义务来源 | 算法推荐相关规定与生成式 AI 服务管理相关规定 |
| 填报要素 | 算法名称、类型、应用产品与域名、服务形式、数据来源 |
| 安全评估 | 自评估报告加主管部门核验 |
| 持续义务 | 重大变更、功能调整与服务下线都要更新 |
| 常见风险 | 自行判定无需备案 |
典型使用场景
- 生成式对话产品上线前:确认备案与安全评估是否齐备
- 功能上线:新增合成能力或新增面向公众的入口时评估是否需变更
- 域名与主体变更:调整备案信息而不是先上线后补
- 对外合作:向合作方与客户提供备案与评估材料
- 合规自查:定期核对备案信息与实际服务是否一致
备案信息要素示意
备案信息要素示意
算法名称:XX 智能问答生成算法
算法类型:生成合成类
应用产品:APP / 小程序 / 网站(列出域名与端口)
服务形式:面向公众提供对话生成
数据来源:自有语料 + 授权语料(附来源说明)
# 备案信息要与线上实际服务一致,域名与产品变更同步更新
# 安全评估报告要能对应到系统的模块与策略
# 具体口径与材料要求以主管部门最新要求为准两个动作与要点
| 事项 | 依据 | 要点 |
|---|---|---|
| 算法备案 | 算法推荐相关规定 | 线上填报算法名称、类型、应用产品与域名等信息 |
| 安全评估 | 互联网信息服务安全评估相关规定 | 自评估报告加主管部门核验 |
| 变更更新 | 持续义务 | 算法重大变更或服务下线同步更新 |
| 材料留存 | 自查与核查需要 | 备案回执、评估报告与变更记录统一归档 |
备案是可追溯的持续义务,不要当一次性动作:算法升级、功能扩展、主体或域名调整后,先核对是否需要更新再上线。
安全评估报告要能一一对应到系统实现:每条结论指向具体模块、策略开关与日志,否则核查时无法自证。