支持PDF/网页/多格式电子书的数据提取工具

大家好,又见面了,我是 GitHub 精选君!

背景介绍

数据的采集与分析成为了各行各业关注的焦点。然而,在信息提取过程中,我们经常面临多种挑战,尤其是从非结构化数据源如 PDF 文档、网页以及电子书中提取高质量数据。这些文件往往包含大量的文本、图表、公式和图片,手动提取既耗时又低效,而且可能因格式不统一、布局复杂等问题而造成信息转录的错误和遗漏,从而影响数据分析的精确度和效率。

今天要给大家推荐一个 GitHub 开源项目 MinerU,该项目在 GitHub 有超过 20.7k Star。

一句话介绍该项目:A one-stop, open-source, high-quality data extraction tool, supports PDF/webpage/e-book extraction. 一站式开源高质量数据提取工具,支持PDF、网页、多格式电子书提取。

项目介绍

MinerU 是一个开源高质量数据提取工具,支持从 PDF、网页、电子书等多种格式进行数据提取。项目在 InternLM 的预训练过程中被开发和完善,专注于解决科学文献和技术文件中的符号转换问题,致力于推动大模型时代的技术发展。

MinerU 的主要功能包括:

1、自动移除页眉、页脚、脚注、页码等,确保语义连贯。

2、按人类可读的顺序输出文本,适应单列、多列及复杂布局。

3、保留原始文档结构,包括标题、段落、列表等。

4、提取图片、图片描述、表格、表标题和脚注。

5、自动识别并将文档中的公式转换为 LaTeX 格式。

6、自动识别并将表格转换为 LaTeX 或 HTML 格式。

如何使用

首先确保已安装 Python 环境,然后通过 pip 安装 magic-pdf:

pip install -U magic-pdf[full] --extra-index-url https://wheels.myhloli.com

具体的命令行参数参考如下:

项目推介

项目自开源以来,一直致力于优化性能、扩展功能和简化使用流程,如在最新版本中整合了高精度的表格识别模型、提供了对 84 种语言的 OCR 支持,并大幅优化了内存占用。

以下是该项目 Star 趋势图(代表项目的活跃程度):

更多项目详情请查看如下链接。

开源项目地址:https://github.com/opendatalab/MinerU

开源项目作者:opendatalab

开源协议:GNU Affero General Public License v3.0

以下是参与项目建设的所有成员:

关注我们,一起探索有意思的开源项目。


更多精彩请扫码关注如下公众号。

Written on November 14, 2024