首页/AI/AI 应用速查/数据投毒与模型供应链风险
本包目录(159 条)

数据投毒与模型供应链风险

投毒有两个入口:训练侧(污染微调数据让模型学会错误行为)与检索侧(往知识库塞入错误/恶意内容影响答案)。加上模型权重来源不明,供应链每一环都要校验。

AI 应用速查AI更新于 2026-10-12
训练侧微调/蒸馏数据来源与审核;标注外包的质检
检索侧知识库写入审核、来源可信度分级、异常内容检测
权重侧只从官方渠道获取,校验哈希/签名
插件侧第三方插件与连接器做权限与行为审计

供应链检查清单

供应链检查清单
[ ] 模型权重:官方源 + 哈希比对 + 版本记录
[ ] 微调数据:来源标注 + 去重 + 人工抽检
[ ] 知识库写入:发布审核流程(谁写、谁审、留痕)
[ ] 第三方插件:权限说明 + 数据流向评审
[ ] 变更审计:任何数据源变更可追溯到版本
RAG 型产品的投毒面往往比训练侧更大:只要有人能写进知识库,就能影响所有答案。

易错点

  • 知识库写入无审核,内部人员即可污染答案
  • 从非官方渠道下载模型权重,完整性无校验

数据来源与参考

  • NIST AI 风险管理框架(数据与供应链);数据投毒研究综述

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌