wesharetechnology / flask-llm-pdf-analyzer

A flask app that uses the LLM model to extract chemicals from a PDF file input.

0 stars 1 forks source link

在运行flask-llm-pdf-analyzer中发现的一些问题 #3

Open LOB-Syra opened 11 months ago

LOB-Syra commented 11 months ago

在运行flask-llm-pdf-analyzer中发现的一些问题

在终端使用命令python main.py运行之后，根据命令行打印的local host网址可以成功打开flask-llm-pdf-analyzer的交互界面，由于没有安装pypdf2，先开始会报错提示需要安装，我首先尝试了pip install pypdf2，重新尝试运行，系统依然报错，报错信息如下：
我考虑自动安装的pypdf2是3.0.0以上的版本，于是指定重新安装了低于3.0.0版本的pypdf2 pip install pypdf2==2.12.0，重新运行项目，但上床pdf后页面会持续loading并最终产生runtime error的报错，报错信息如下：

Alexwwwwww commented 11 months ago

由於 PdfFileReader 已經deprecated, 已經修改爲PdfReader. 但是目前執行Post之後會報CUDA out of memory error 目前正在把call chatglm的部分換成call openai API

kongdayan commented 11 months ago

可以尝试使用以下库来同步支持多个LLM https://docs.litellm.ai/docs/