Closed LeoN0425 closed 2 weeks ago
在Mac的MPS框架上运行代码时，发现性能表现不佳。这是由于CustomRepetitionPenaltyLogitsProcessorRepeat处理在MPS上运行时，导致score变量出现数值错误的异常。将scores变量进行连续内存排布处理，即使用scores.contiguous()方法，可以解决这个问题。
哦，你弄错分支了
fumiama
commented
2 weeks ago fumiama
commented
2 weeks ago
在Mac的MPS框架上运行代码时，发现性能表现不佳。这是由于CustomRepetitionPenaltyLogitsProcessorRepeat处理在MPS上运行时，导致score变量出现数值错误的异常。将scores变量进行连续内存排布处理，即使用scores.contiguous()方法，可以解决这个问题。