首页/AI/RAG 与向量库速查/流式输出与引用展示
本包目录(229 条)

流式输出与引用展示

流式输出提升体感速度,但引用信息要在完整答案后才能确定编号映射:常见做法是正文流式、引用卡片在结束时补发;或在流式块中保留编号占位,结束时批量校验。

RAG 与向量库速查AI更新于 2026-10-12

服务端事件顺序(示意)

服务端事件顺序(示意)
event: token    data: {"delta": "根据文档…"}
event: token    data: {"delta": "… [1]。"}
event: citations data: {"list": [{"id": 1, "title": "…", "anchor": "…"}]}
event: done     data: {}
流式场景下引用校验只能事后执行:发现越界引用后再撤回或标注,要把该路径纳入错误监控。

易错点

  • 边流式边生成引用编号,编号与最终列表不一致
  • 客户端只渲染 token 事件,citations 事件被丢弃

数据来源与参考

  • OpenAI 官方文档(Streaming)
  • Anthropic 官方文档(Streaming 响应)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌