首页/AI/AI 应用速查/提示词评测(回归与对比)
本包目录(159 条)

提示词评测(回归与对比)

用固定题集评测提示词版本:每条包含输入与通过标准;新旧版本同批对比,人工或 LLM 评审打分。起步 20-50 条覆盖主路径与边界即可。

AI 应用速查AI更新于 2026-10-12
题集20-50 条,覆盖主路径、边界、对抗输入
标准每条写清通过条件(字数/要素/格式)
对比同参数、同模型、同批次跑新旧版本
自动化LLM-as-judge 需固定评审提示词与模型

题集条目格式(YAML 示例)

题集条目格式(YAML 示例)
- id: q01
  input: 帮我总结这段合同
  criteria: [不遗漏价格条款, 不超过 200 字]
- id: q02
  input: 客户说没收到货,帮我回一封邮件
  criteria: [包含道歉与解决方案, 不使用感叹号]
# 新旧版本同批跑,人工或 LLM 评审打分对比
评测集是团队资产:每次线上差评与事故都沉淀为新题目,防止同类问题复发。

易错点

  • 题目只覆盖顺利路径,边界无样本
  • 两次对比用了不同评审标准,结论不可比

数据来源与参考

  • LLM-as-a-Judge 研究(arXiv 2306.05685);提示词工程通行实践

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌