首页/AI/RAG 与向量库速查/图片与图表信息的处理

图片与图表信息的处理

文档中的架构图、截图与曲线图承载关键信息:可用多模态模型生成图注与要点描述入块、或人工补写图注;描述要与图片锚点关联,回答时引导用户查看原图核对。

RAG 与向量库速查AI更新于 2026-10-13

图片与图表信息的处理

文档里的架构图、界面截图与曲线图往往承载关键信息,而纯文本抽取会把它们整块丢掉。常见做法是用多模态模型为图片生成图注与要点描述,作为片段入库,或由人工补写图注;描述必须与图片锚点关联,回答时还要引导用户查看原图核对。多模态描述可能出错,读数与连线关系最容易写错,高风险图表要保留人工审核环节。

基本信息

处理对象架构图、流程图、界面截图、曲线图
入库形态图注、要点描述与图片锚点
生成方式多模态模型生成,或人工补写
关联要求与图片锚点绑定,可跳转原图
主要风险数字读数与连线关系易错
兜底措施高风险图表人工审核

典型使用场景

  • 架构图里的组件关系,纯文字描述难以表达清楚
  • 界面截图承载操作路径,需要说明每步位置
  • 曲线图与统计图携带关键数值与趋势
  • 扫描件里的图表需要单独识别与描述
  • 回答时提示用户对照原文图号核对

图片入库条目示例

图片入库条目示例
{
  "type": "figure",
  "doc_id": "manual-v23",
  "anchor": "#fig-3",                                    # 与图片锚点绑定
  "caption": "图 3 数据流:采集 → 解析 → 切分 → 向量化 → 入库",
  "text": "该图展示离线索引五步流程,上游失败时……"
}

处理环节读法

环节做法风险
抽取识别图注与图内文本版式复杂时抽错或漏抽
描述多模态模型生成要点读数与连线关系容易出错
入库图注与描述作为片段并绑定锚点只索引图注,问图中内容时无答案
展示回答时给出原图链接用户看不到原图,无法核对
多模态描述可能有误,尤其是数字与连线关系:高风险图表保留人工审核,避免错误读数进入答案再被引用扩散。
只索引图注、不索引图内信息时,用户问「图里这条线连到哪」会发现知识库里根本没有可召回的内容。

易错点

  • 只索引图注不索引图像内容:问到图内细节时无答案可召回
  • 自动图注把曲线读数写错:答案引用错误数字,且看起来有图有据更可信
  • 描述未绑定图片锚点:用户无法跳到原图核对,溯源链断掉
  • 扫描件里的图表被当作噪声丢弃:关键信息整块缺失,检索时才发现

数据来源与参考

  • 多模态模型官方文档(图像理解能力说明)
  • Docling 官方文档(图文结构解析)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌