常见评测对照
| 评测 | 测什么 | 怎么读 |
|---|---|---|
| LMArena | 人类盲测偏好(Elo 类) | 看区间与场景子榜,不必只看总榜 |
| SWE-bench | 真实 GitHub issue 修复率 | 最贴近工程能力,注意版本与 scaffold |
| MMLU / GPQA | 学科知识 / 研究生级难题 | 注意污染与提示敏感 |
| AIME 等数学 | 竞赛数学正确率 | 多数模型用多次采样报告,口径不一 |
用业务题自建小评测(示例)
用业务题自建小评测(示例)
from openai import OpenAI
client = OpenAI()
q = "用一句话解释什么是 RAG"
for m in ["gpt-4o-mini", "gpt-4o"]:
r = client.chat.completions.create(model=m, messages=[{"role":"user","content":q}], temperature=0)
print(m, r.choices[0].message.content[:80])榜单分数不等于你的场景效果:准备 20-50 条真实业务题,固定提示与参数做盲测,结论更可靠。