search

OpenBMB / CPM-Bee

百亿参数的中英文双语基座大模型
2.69k stars 214 forks source link

测试脚本text_generation.py使用gpu模式时报错。使用cpu正常。 #103

Open summerghw opened 1 year ago

summerghw commented 1 year ago

RuntimeError: CUDA error: CUBLAS_STATUS_INVALID_VALUE when calling cublasGemmEx( handle, opa, opb, m, n, k, &falpha, a, CUDA_R_16F, lda, b, CUDA_R_16F, ldb, &fbeta, c, CUDA_R_16F, ldc, CUDA_R_32F, CUBLAS_GEMM_DFALT_TENSOR_OP)

EnHuiPug commented 1 year ago

cuda是不是没配置好 命令行 nvcc -V 看看 import torch 然后 print(torch.version.cuda) 看看

summerghw commented 1 year ago

torch version 是对的，nvcc是老款的，把原来的软连接删了，现在可以了。thx