首页/AI/提示词工程速查/执行式评估:用运行结果判对错
评估与迭代50 条

执行式评估:用运行结果判对错

能运行的任务优先用执行结果判定:代码跑单元测试、SQL 对结果集、正则对样例;比文本相似度更接近真实正确。

提示词工程速查AI更新于 2026-10-12

执行评估骨架

执行评估骨架
def evaluate(candidate_code: str, cases: list) -> dict:
    ns = {}
    exec(candidate_code, ns)  # 仅限隔离沙箱环境
    passed = sum(1 for args, want in cases if ns["solve"](*args) == want)
    return {"passed": passed, "total": len(cases)}
安全执行不可信代码必须在隔离沙箱与超时限制内
用例正例、边界、异常三类都覆盖,防止过拟合到用例
超时死循环用例要有超时;超时按失败计

易错点

  • 在宿主机直接执行模型代码有安全风险;必须沙箱隔离并限时限资源
  • 用例全部公开在提示里会让模型针对性写死;保留一部分隐藏用例

数据来源与参考

  • HumanEval 测试执行的代码评测做法;不可信输出处理原则参考 OWASP LLM Top 10
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌