Closed snow163 closed 2 weeks ago
非常感谢您的工作,但是我在接触的时候出现RuntimeError: probability tensor contains either inf, nan or element < 0错误,请问应该怎么解决?
inf
nan
在推理时涉及的token采样可能会出现这种问题。可以在generation_params中将do_sample设置为False。
generation_params
do_sample
False
inf
,nan
or element < 0错误,请问应该怎么解决?