Closed LeoN0425 closed 2 weeks ago
发现代码在Mac的MPS框架上运行时,效果很差,这是因为CustomRepetitionPenaltyLogitsProcessorRepeat的处理在MPS上,可能会发生score变量数值错误的未知异常,将其连续化scores.contiguous(), 可以解决此问题。
发现代码在Mac的MPS框架上运行时,效果很差,这是因为CustomRepetitionPenaltyLogitsProcessorRepeat的处理在MPS上,可能会发生score变量数值错误的未知异常,将其连续化scores.contiguous(), 可以解决此问题。