PDF是相对复杂的文件格式,FastGPT内置的pdf解析器依赖pdfjs库,基于逻辑解析,无法有效处理图片、表格、公式等非简单文本内容,解析效果不佳。MinerU集成YOLO、PaddleOCR及表格识别等模型,基于视觉解析,可有效提取图片、表格、公式等复杂内容,适合作为FastGPT的PDF增强解析方案。部署该服务需满足16GB以上GPU显存,推荐32GB以上内存。社区版用户可通过配置文件启用该服务,商业版用户可在Admin后台直接配置。
部署与配置步骤
- 安装MinerU服务:使用Docker快速部署,执行以下命令拉取镜像并启动容器:
docker pull crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/fastgpt_ck/mineru:v1
docker run --gpus all -itd -p 7231:8001 --name mode_pdf_minerU crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/fastgpt_ck/mineru:v1该容器采用pipeline模式,会根据GPU数量创建并行进程处理PDF解析任务。
- 配置FastGPT:社区版用户修改
config.json文件,添加systemEnv.customPdfParse配置项,示例如下:
{
"systemEnv": {
"customPdfParse": {
"url": "http://xxxx.com/v2/parse/file",
"MinerU key": "",
"doc2xKey": "",
"price": 0
}
}
}商业版用户可直接在Admin后台按表单指引填写配置。配置完成后需重启FastGPT服务生效。
测试与使用说明
上传PDF文件并勾选「PDF增强解析」选项,可通过日志验证解析是否生效,有效日志包含[Info] 2024-12-05 15:04:42 Parsing files from an external service和[Info] 2024-12-05 15:07:08 Custom file parsing is complete, time: 1316ms,需确保LOG_LEVEL设置为info或debug。此外,MinerU采用GPL-3.0协议,需在遵守协议的前提下使用。
来源:https://doc.fastgpt.cn/zh-CN/self-host/custom-models/mineru