search

wenda-LLM / wenda

闻达：一个LLM调用平台。目标为针对特定环境的高效内容生成，同时考虑个人和中小企业的计算资源局限性，以及知识安全和私密性问题
GNU Affero General Public License v3.0
6.23k stars 810 forks source link

用rwkv出现错误错误probability tensor contains either inf, nan or element < 0 #461

Closed fryng closed 1 year ago

fryng commented 1 year ago

image 模型加载成功，但是在问答时出现错误 image

l15y commented 1 year ago

你用的模型不能量化