Open hzh0720 opened 8 months ago
cc @lykeven
同问
同问
我运行web_demo.py说我缺少一个什么model_config.json文件,但是我运行web_demo_hf.py就能启动,当然仅限于启动,web_demo_hf.py根本回答不了问题,我直接调模型的话还是能回答问题,感觉这个项目一堆bug
我运行web_demo.py说我缺少一个什么model_config.json文件,但是我运行web_demo_hf.py就能启动,当然仅限于启动,web_demo_hf.py根本回答不了问题,我直接调模型的话还是能回答问题,感觉这个项目一堆bug
我也遇到过,但是仔细看一下说明会明白,这两个文件调用方式不一样,一个是sat模型,一个是huggingface,所以会有混淆的地方,webdemo里面有些设置和目录会错。但是这部分又没有人详细的解释……
你好,我在运行
web_demo
时一直无结果(已经等待10分钟以上),但我cli_demo
已经跑通可以正常运行了,如下图所示:我尝试使用4bit量化后仍然是这样一直无结果,也没有什么报错信息:
希望可以帮忙看看,十分感谢!!