baichuan-7b推理时出现胡言乱语现象

yangjianxin1 / Firefly

Firefly: 大模型训练工具，支持训练Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom等大模型

5.85k stars 525 forks source link

baichuan-7b推理时出现胡言乱语现象 #169

Open veresse opened 1 year ago

veresse commented 1 year ago

如题，在推理微调好的baichuan-7b时出现胡言乱语现象 20231010-170041 有人出现过这种问题吗，在微调baichuan-7b和llama2-7b都出现了，但是在chatglm-6b时没出现，但是微调出来的chatglm-6b完全没效果，没有微调的迹象数据集是自己做的，大概2000条电影对话左右，请问这是什么情况

ligongxiang commented 11 months ago

我也遇到类似的问题解决了吗？

veresse commented 10 months ago

暂时还没有解决

---- 回复的原邮件 ---- | 发件人 | @.> | | 日期 | 2023年12月21日 10:50 | | 收件人 | @.> | | 抄送至 | @.>@.> | | 主题 | Re: [yangjianxin1/Firefly] baichuan-7b推理时出现胡言乱语现象 (Issue #169) |

我也遇到类似的问题解决了吗？

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>