| 语料 | 来源合法、多样性与标注规范、不良语料过滤 |
|---|---|
| 模型 | 生成内容安全、拒答能力、抗诱导（越狱） |
| 措施 | 关键词库+生成内容检测+人工兜底 |
| 风险类目 | 覆盖政治、色情、暴力、歧视等多类安全风险 |
安全措施最小配置（示意）
安全措施最小配置（示意）
输入侧：关键词/分类器拦截明显违规请求
生成侧：生成内容过安全分类器，命中 → 拦截或降级
兜底：高风险场景转人工；误拦截可申诉
留痕：拦截记录与处置结果可审计把 TC260 当检查表用：每条要求对应到系统的哪个模块、哪个开关、哪条日志，才算落地。
TC260 生成式 AI 安全基本要求
《生成式人工智能服务安全基本要求》（TC260-003，2024-02-29 发布）给出可操作的安全基线：语料来源与标注、模型安全、安全措施（关键词库、检测、拒答）都列了最低要求。
易错点
- 只做输出过滤不做输入拦截，诱导请求照样进模型
- 安全机制无审计留痕，监管核查时拿不出记录
数据来源与参考
- 全国网络安全标准化技术委员会《生成式人工智能服务安全基本要求》TC260-003