没有GPU的条件，使用CPU能否运行呢？

RiseInRose / MiniGPT-4-ZH

MiniGPT-4 中文部署翻译完善部署细节

BSD 3-Clause "New" or "Revised" License

858 stars 102 forks source link

Closed xqyi closed 1 year ago

hebochang commented 1 year ago

恐怕是不能

WhiteEnzuo commented 1 year ago

能，只是时间有亿点点久而已

RiseInRose commented 1 year ago

可以，速度会特别慢。而且需要50G 左右内存。如果内存也不够，理论上可以使用硬盘当内存。真这样做了，推理速度基本不能接受

Maknee commented 1 year ago