search

OpenBMB / VisCPM

[ICLR'24 spotlight] Chinese and English Multimodal Large Model Series (Chat and Paint) | 基于CPM基础模型的中英双语多模态大模型系列
1.06k stars 93 forks source link

apple silicon支持 #16

Closed xiaokj37 closed 11 months ago

xiaokj37 commented 1 year ago

请问后续有计划将cuda转变为mps加速吗？现在的代码将cuda转变为mps（包括model.to(device)以及torch.mps.empty_cache()）会出现以下问题，不太清楚是什么导致。 image

Cppowboy commented 1 year ago

从报错信息上看，似乎是数据类型不一致导致的，您可以试下把所有输入数据和模型参数转为float32能不能解决这一问题。