search

CjangCjengh / YakuYaku

翻译姬：致力于小众领域的机器翻译
534 stars 51 forks source link

使用Sakura大模型翻译的时候无法加载模型 #22

Open oldtian123 opened 10 months ago

oldtian123 commented 10 months ago

如题，死活不加载Sakura大模型，程序在后台运行正常，Sakura大模型本地监听端口为8080，部署方式使用llama.cpp一键部署

CjangCjengh commented 10 months ago

Sakura模型为0.9版本的话请使用本仓库llm分支里的代码

oldtian123 commented 9 months ago

使用的是0.8模型，部署方式为/SakuraLLM/Sakura-13B-Galgame项目提供的llama.cpp一键部署