手动下载的WebGLM10B应该放在工程的哪个目录

[pythonmanGo]

手动下载的WebGLM10B应该放在工程的哪个目录，应该在哪个程序里面设置，

[ilovesouthpark]

python web_demo.py -w G:\model\webglm。24g显存不够，32G内存不够，感觉需要将近26g

[Longin-Yu]

如果显存不够，可以尝试体验 WebGLM-2B 模型。虽然 10B 的性能优于 2B，但 2B 表现也不错，值得一试😆

[Longin-Yu]

手动下载的WebGLM10B应该放在工程的哪个目录，应该在哪个程序里面设置，

命令行中通过 -w 设定路径

[ilovesouthpark]

如果显存不够，可以尝试体验 WebGLM-2B 模型。虽然 10B 的性能优于 2B，但 2B 表现也不错，值得一试😆

是的，目前看效果还是可以的，就是能否再给点可以设置的指南对于调整筛选范围数量等。另外还是高几率出现IndexError: index out of range in self的问题。表现在gpu运行的时候出现如下错误，进行cpu运行时显示IndexError: index out of range in self

[HongruiFan]

如果显存不够，可以尝试体验 WebGLM-2B 模型。虽然 10B 的性能优于 2B，但 2B 表现也不错，值得一试😆

是的，目前看效果还是可以的，就是能否再给点可以设置的指南对于调整筛选范围数量等。另外还是高几率出现IndexError: index out of range in self的问题。表现在gpu运行的时候出现如下错误，进行cpu运行时显示IndexError: index out of range in self

请问IndexError: index out of range in self有办法解决吗

[ilovesouthpark]

莫名其妙的好了。我怀疑是更新或者降级我的环境中的一些依赖有关，你试试升降级 torch和transformers试试。