首页/AI/RAG 与向量库速查/readability-lxml 抽取正文

readability-lxml 抽取正文

readability-lxml 根据内容密度启发式提取网页正文(源自 Readability 思路),适合新闻与博客类文章;输出为 HTML 片段,可再转纯文本。

RAG 与向量库速查AI更新于 2026-10-12

提取标题与正文

提取标题与正文
from readability import Document

html = open("page.html", encoding="utf-8").read()
doc = Document(html)
print(doc.title())
print(doc.summary()[:300])   # 这是 HTML 片段
与 trafilatura 可互补:用两者结果的一致性判断抽取是否稳定,差异大的页面人工复核。

易错点

  • summary() 输出仍是 HTML,直接当纯文本入库会把标签混进内容
  • 对列表页、结构化页面效果一般,正文型文章才适用

数据来源与参考

  • readability-lxml 项目文档(github.com/buriy/python-readability)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌