首页/AI/AI 应用速查/多模态 RAG:图片、表格与图表
本包目录(159 条)

多模态 RAG:图片、表格与图表

知识库里大量信息在图和表里:用多模态 embedding(CLIP 类)做图搜图,或让多模态模型为图片生成描述文本再参与文本检索;表格转结构化文本同样是多模态处理。

AI 应用速查AI更新于 2026-10-12
图片入库图 + 生成的文字描述一起存;描述进文本向量,原图留引用
图搜图CLIP 类双塔模型,图文同空间
图表问答多模态模型直接看图,或抽取数据点转文本
展示答案引用图片时带缩略图与页码

图片描述入库(流程示意)

图片描述入库(流程示意)
for img in extract_images(pdf):
    caption = vision_model.describe(img)          # 生成结构化描述
    caption = f"[图片,来自 {pdf.name} 第 {img.page} 页] {caption}"
    upsert(text=caption, meta={"image_path": img.path, "page": img.page})
# 检索命中后:返回描述 + 原图引用,模型可结合两者作答
多模态检索效果好但链路长:先做“图片描述 + 文本检索”,有问题再上双塔向量。

易错点

  • 图片只存不描述,检索时完全不可见
  • 描述文本与正文重复度过高,召回名额被图抢占

数据来源与参考

  • CLIP 论文;多模态 RAG 工程实践

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌