search

Xunzi-LLM-of-Chinese-classics / XunziALLM

Apache License 2.0
239 stars 22 forks source link

Ollama部署回答出问题。 #12

Open BasisSun opened 3 weeks ago

BasisSun commented 3 weeks ago

下载Qwen2-7B版本，使用Llama.cpp转化为gguf格式，然后使用ollama部署在本地，无论提任何问题，都会一直在重复回答问题，不会自动停止。不知是什么原因。 image

lclcjj commented 3 weeks ago

这个是基座模型，尽量使用对话模型

BasisSun commented 3 weeks ago

Qwen2的对话模型还没出来是吧？

lclcjj commented 3 weeks ago

是的 

深心 @.***

 

------------------ 原始邮件 ------------------ 发件人: @.>; 发送时间: 2024年8月29日(星期四) 下午4:55 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [Xunzi-LLM-of-Chinese-classics/XunziALLM] Ollama部署回答出问题。 (Issue #12)

Qwen2的对话模型还没出来是吧？

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>