首页/AI/AI 应用速查/模型评测:LMArena / SWE-bench / MMLU

模型评测:LMArena / SWE-bench / MMLU

读榜要会拆:LMArena 是人工盲测偏好排名,SWE-bench 测真实仓库修 bug,MMLU/GPQA 测知识与高难推理。榜单受提示格式与推理预算影响,只能做初筛。

AI 应用速查AI更新于 2026-10-12

常见评测对照

评测测什么怎么读
LMArena人类盲测偏好(Elo 类)看区间与场景子榜,不必只看总榜
SWE-bench真实 GitHub issue 修复率最贴近工程能力,注意版本与 scaffold
MMLU / GPQA学科知识 / 研究生级难题注意污染与提示敏感
AIME 等数学竞赛数学正确率多数模型用多次采样报告,口径不一

用业务题自建小评测(示例)

用业务题自建小评测(示例)
from openai import OpenAI
client = OpenAI()
q = "用一句话解释什么是 RAG"
for m in ["gpt-4o-mini", "gpt-4o"]:
    r = client.chat.completions.create(model=m, messages=[{"role":"user","content":q}], temperature=0)
    print(m, r.choices[0].message.content[:80])
榜单分数不等于你的场景效果:准备 20-50 条真实业务题,固定提示与参数做盲测,结论更可靠。

易错点

  • 用单一榜单直接定选型结论
  • 忽略榜单版本、提示格式与推理预算差异

数据来源与参考

  • LMArena lmarena.ai;SWE-bench 官网;MMLU 论文 arXiv 2009.03300

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌