指标计算
指标计算
from ragas.metrics import answer_relevancy
from ragas import evaluate
res = evaluate(dataset, metrics=[answer_relevancy])
print(res["answer_relevancy"])冗长但切题的答案得分往往仍高:该指标对“答非所问”敏感、对“啰嗦”不敏感。
answer_relevancy 反向生成问题:用答案让模型“还原”它可能回答的问题,再与原问题比较相似度;衡量答案是否切题,不评价事实正确性。
from ragas.metrics import answer_relevancy
from ragas import evaluate
res = evaluate(dataset, metrics=[answer_relevancy])
print(res["answer_relevancy"])