-
多卡多tensor并行 finetuning gpt3 1.3B之后,怎么用单卡进行推理。我在单卡上推理报错如下,但我如果用多卡推理的话,就是正常的
RuntimeError: DistributedGPT3Pipeline: NCCL error in:
../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1169, invalid u…
-
### 请提出你的问题
taskflow,基于百万量级Dureader Retrieval数据集训练RocketQA并达到前沿文本相似效果,该模型预测的结果整体偏低,即使是完全相同的句子,结果也不是100%
-
按照[快速体验](https://github.com/PaddlePaddle/PaddleNLP/tree/develop/pipelines#beginner-%E5%BF%AB%E9%80%9F%E4%BD%93%E9%AA%8C)在Linux部署nvidia-docker出现错误“Connection Error: Is pipelines running? An error occur…
-
日志如下
```
E:\IdeaProjects\knowledge-model\rocketqa_es>python example.py
RocketQA model [zh_dureader_de]
WARNING:root:paddle.fluid.layers.py_reader() may be deprecated in the near future. Please use…
-
Load pretraining parameters from dureader_cross_encoder 後跳出程序
dureader_cross_encoder有下載下來
![image](https://user-images.githubusercontent.com/23492343/209496163-ec5e6da2-92e9-4123-b4e7-82282dc3b191…
-
微博内容精选
-
欢迎您反馈PaddleNLP使用问题,非常感谢您对PaddleNLP的贡献!
在留下您的问题时,辛苦您同步提供如下信息:
- 版本、环境信息
1)PaddleNLP和PaddlePaddle版本:请提供您的PaddleNLP和PaddlePaddle版本号,例如PaddleNLP 2.0.4,PaddlePaddle2.1.1
2)系统环境:请您描述系统类型,例如Linux/Windows…
-
欢迎您反馈PaddleNLP使用问题,非常感谢您对PaddleNLP的贡献!
在留下您的问题时,辛苦您同步提供如下信息:
- 版本、环境信息
1)PaddleNLP和PaddlePaddle版本:请提供您的PaddleNLP和PaddlePaddle版本号,例如PaddleNLP 2.0.4,PaddlePaddle2.1.1
2)系统环境:请您描述系统类型,例如Linux/Windows…
-
### 请提出你的问题
按照WINDOWS环境下搭建端到端语义检索系统:
运行python examples/semantic-search/semantic_search_example.py --device gpu时报错
Traceback (most recent call last):
File "examples/semantic-search/semantic_sea…
-
运行代码直接报错了,不知道为什么维度对不上
![image](https://user-images.githubusercontent.com/4433156/208049065-96b3a3d1-918e-4b8b-81aa-406df6e3e0dd.png)
debug了一下,看了下qkv的维度,可以解释下q的shape为(64,1,768) k和v的shape(64,128,76…