Closed Happzy-WHU closed 11 months ago
在lora训练后进行推理时,总是会出先[gMASK]x、[gMASK]V、[gMASK]O、[gMASK]sop[gMASK]\u0018。可以知道是为什么吗?
一部分尝试5次推理还是会失败,对应上图中的空串。
这个是推理的参数。
你的代码是否更新到新代码了,我记得之前是有这个问题。
更新代码后解决了👍
在lora训练后进行推理时,总是会出先[gMASK]x、[gMASK]V、[gMASK]O、[gMASK]sop[gMASK]\u0018。可以知道是为什么吗?