首页/AI/AI 应用速查/模型卡:能力、限制与变更的公开说明

模型卡:能力、限制与变更的公开说明

模型卡(Model Card)用固定结构说明模型的用途、训练数据概况、评测结果与已知局限:既是内部评审依据,也是对外披露与采购尽调的标配材料,监管文档要求也指向它。

AI 应用速查AI更新于 2026-10-12
用途说明适用场景与禁用场景
数据训练数据概述(来源类别、时间范围、已知缺口)
评测关键基准与业务评测结果,含失败案例
局限已知偏见、幻觉风险、拒答模式

模型卡骨架(Markdown)

模型卡骨架(Markdown)
## 模型卡:xxx(版本 2026-10)
- 用途:客服问答 / 文档摘要;禁用:医疗诊断、法律结论
- 数据:截至 2026-06 的公开语料 + 授权内部语料(不含用户对话)
- 评测:内部评测集准确率 92%;已知短板:数字推理、超长表格
- 安全:红线类目拒答率 99%+;红队回归集覆盖情况
- 变更:v2 更换底座模型,输出风格与拒答行为有差异
模型卡随每次变更更新:换底座、调系统提示、改安全策略都算版本变更,尽调与合规都靠它的历史。

易错点

  • 只写能力不写限制,用户与审查方都被误导
  • 模型升级后模型卡不更新,版本对不上

数据来源与参考

  • Mitchell et al., Model Cards for Model Reporting;EU AI Act 技术文档要求

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌