RuntimeError: CUBLAS error: CUBLAS_STATUS_EXECUTION_FAILED[BUG]

OpenBMB / BMInf

Efficient Inference for Big Models

Apache License 2.0

572 stars 67 forks source link

Closed zhangxliang closed 2 years ago

zhangxliang commented 2 years ago

Describe the bug

用的CPM-2提供的docker镜像，出现该bug，其他环境没有尝试。

Minimal steps to reproduce

Expected behavior

运行examples下面的generate以及quick start中的代码都报错

Screenshots

Environment:

a710128 commented 2 years ago

请反馈一下：使用的GPU型号，BMInf版本号，CUDA版本

zhangxliang commented 2 years ago

请反馈一下：使用的GPU型号，BMInf版本号，CUDA版本

GPU: GeForce RTX 3090, BMInf: 1.0.0, CUDA: 11.1

a710128 commented 2 years ago

试一下不用docker直接运行呢

zhangxliang commented 2 years ago

试一下不用docker直接运行呢

不用docker运行不会出现类似错误，具体原因不明，可能是docker中pytorch与cuda和显卡不兼容

a710128 commented 2 years ago

可能是由于docker内的cuda版本与系统环境中的不一致