Embedding 与检索50 条

Embedding 领域微调

领域语料与通用模型差距大时，可用对比学习微调 embedding（查询-段落正例对 + 难负例）；DPR 是经典双塔训练思路，训练数据质量决定上限。

RAG 与向量库速查AI更新于 2026-10-12

训练数据骨架（概念）

from sentence_transformers import InputExample

train = [
    InputExample(texts=["如何配置超时", "在 conf 中设置 timeout 字段，默认 30 秒…"]),
    # 更多查询-相关段落对；负例由批内样本或显式难负例提供
]
# 损失与训练器参考官方 MultipleNegativesRankingLoss 示例

微调后要用同一评测集验证 Recall@k / MRR 的变化，并监控过拟合与对通用问题的退化。

易错点

正例不干净（弱相关也当正例），微调后召回反而变差
只看相似度分数不看检索评测，线上出现新的漏召回模式

数据来源与参考

Karpukhin et al., Dense Passage Retrieval for Open-Domain Question Answering, EMNLP 2020
Sentence-Transformers 官方文档（训练与损失函数）

继续搜索

常用关键词：3389 traceroute iptables 子网掩码 docker

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌