search

Qihoo360 / 360zhinao

360zhinao
Apache License 2.0
278 stars 22 forks source link

关于模型大小及需要gpu内存大小的问题 #4

Closed p7759809 closed 6 months ago

p7759809 commented 6 months ago

以下模型大小是多少，各需要多大内存的gpu才能跑起来，最好能在环境要求或模型下载里面说明一下： 360Zhinao-7B-Base 360Zhinao-7B-Chat-4K 360Zhinao-7B-Chat-32K 360Zhinao-7B-Chat-360K