search

PaddlePaddle / PaddleNLP

👑 Easy-to-use and powerful NLP and LLM library with 🤗 Awesome model zoo, supporting wide-range of NLP tasks from research to industrial applications, including 🗂Text Classification, 🔍 Neural Search, ❓ Question Answering, ℹ️ Information Extraction, 📄 Document Intelligence, 💌 Sentiment Analysis etc.
https://paddlenlp.readthedocs.io
Apache License 2.0
12k stars 2.93k forks source link

[Question]: 在aistudio上执行精调Llama-2-7b-chat时，执行单卡训练命令，出现分布式的错误 #8576

Closed 8baby8 closed 1 month ago

8baby8 commented 3 months ago

请提出你的问题

执行命令如下： image 出现如下问题： image

======================== 环境：PaddlePaddle 2.6.1 image 部分pip安装的包版本： image 非常期待诸位的回复

DrownFish19 commented 3 months ago

在aistudio上暂时无法复现问题。 是不是在./llama/lora_argument.json中有修改parallel相关设置？如没有，能否提供复现脚本和配置文件？

DesmonDay commented 3 months ago

@8baby8 想问问你的代码是什么时候的？这个问题我们在这个PR已修复：https://github.com/PaddlePaddle/PaddleNLP/pull/8549/files

8baby8 commented 3 months ago

我再git一下新的试试~ 应该是上周三的代码。谢谢佬~ 

My,drame @.***

 

------------------ 原始邮件 ------------------ 发件人: @.>; 发送时间: 2024年6月12日(星期三) 下午2:15 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: 在aistudio上执行精调Llama-2-7b-chat时，执行单卡训练命令，出现分布式的错误 (Issue #8576)

@8baby8 想问问你的代码是什么时候的？这个问题我们在这个PR已修复：https://github.com/PaddlePaddle/PaddleNLP/pull/8549/files

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: @.***>

8baby8 commented 3 months ago

佬~ 不好意思又麻烦您了。我在studio上执行到推理那一块了出现了如下错误，我刚在paddle仓库下看了个issue 说是paddle应该用develop版本的才可以。 那我想问下如何在studio上如何使用develop版本的paddle 

My,drame @.***

 

------------------ 原始邮件 ------------------ 发件人: "PaddlePaddle/PaddleNLP" @.>; 发送时间: 2024年6月12日(星期三) 下午2:15 @.>; @.**@.>; 主题: Re: [PaddlePaddle/PaddleNLP] [Question]: 在aistudio上执行精调Llama-2-7b-chat时，执行单卡训练命令，出现分布式的错误 (Issue #8576)

@8baby8 想问问你的代码是什么时候的？这个问题我们在这个PR已修复：https://github.com/PaddlePaddle/PaddleNLP/pull/8549/files

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: @.***>

DrownFish19 commented 3 months ago

当前查询aistudio中cuda版本为11.8（具体环境请自行检查），可以先卸载paddle-2.6.1，后安装develop版本。 具体命令可以参考官网，选择develop (Nightly build)，linux， cuda11.8，如下：

python -m pip install paddlepaddle-gpu==0.0.0.post118 -f https://www.paddlepaddle.org.cn/whl/linux/gpu/develop.html
github-actions[bot] commented 1 month ago

This issue is stale because it has been open for 60 days with no activity. 当前issue 60天内无活动，被标记为stale。

github-actions[bot] commented 1 month ago

This issue was closed because it has been inactive for 14 days since being marked as stale. 当前issue 被标记为stale已有14天，即将关闭。