search

ssbuild / chatglm3_finetuning

Apache License 2.0
37 stars 2 forks source link

推理错误 #28

Closed Happzy-WHU closed 11 months ago

Happzy-WHU commented 11 months ago

image

在lora训练后进行推理时，总是会出先[gMASK]x、[gMASK]V、[gMASK]O、[gMASK]sop[gMASK]\u0018。可以知道是为什么吗？

Happzy-WHU commented 11 months ago

一部分尝试5次推理还是会失败，对应上图中的空串。

Happzy-WHU commented 11 months ago

image 这个是推理的参数。

ssbuild commented 11 months ago

你的代码是否更新到新代码了，我记得之前是有这个问题。

Happzy-WHU commented 11 months ago

你的代码是否更新到新代码了，我记得之前是有这个问题。

更新代码后解决了👍