在进行推理时会一直不停止的输出

exo-explore / exo

Run your own AI cluster at home with everyday devices 📱💻 🖥️⌚

GNU General Public License v3.0

6.56k stars 342 forks source link

Closed JKYtydt closed 1 month ago

JKYtydt commented 1 month ago

在两台linux服务器上进行实验，模型正常加载，但是会一直不停地输出，无法正常推理，这是什么原因 a2eaf0903d575db0502c2a9ac5c1b6b

JKYtydt commented 2 weeks ago

@AlexCheema 您好，我使用了这个版本https://github.com/exo-explore/exo/commit/803dffd1c4d8b1935ade190aaeb7cfca20a4bc6f，但是依旧还时输出不停止