search

gameofdimension / vllm-cn

演示 vllm 对中文大语言模型的神奇效果
31 stars 1 forks source link

代码运行报错求助 #1

Open Alone749-i opened 1 year ago

Alone749-i commented 1 year ago

大佬按照代码流程安装完了依赖，进行baichuan模型推理时进程直接死掉了。

gameofdimension commented 1 year ago

你的 gpu 显存多大