首页/AI/RAG 与向量库速查/格式一致性问题的修复

格式一致性问题的修复

模型输出格式漂移(该 JSON 时输出散文、该列表时输出段落)会直接破坏下游:用结构化输出/函数调用能力、提供格式示例、服务端加 schema 校验与一次重试,仍失败则降级纯文本。

RAG 与向量库速查AI更新于 2026-10-12

校验与重试

校验与重试
from pydantic import BaseModel, ValidationError

class Answer(BaseModel):
    text: str
    citations: list[int]

def parse_or_retry(raw, retry_budget=1):
    try:
        return Answer.model_validate_json(raw)
    except ValidationError:
        if retry_budget:
            return parse_or_retry(call_model_again(strict=True), retry_budget - 1)
        return Answer(text=plain_text(raw), citations=[])
记录解析失败率作为指标:它通常先于用户投诉暴露问题。

易错点

  • 解析失败直接抛异常,用户侧表现为服务错误
  • 重试不设预算,故障时重试风暴放大负载

数据来源与参考

  • OpenAI 官方文档(Structured Outputs)
  • Pydantic 官方文档(模型校验)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌