PaddlePaddle / Paddle

PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice (『飞桨』核心框架,深度学习&机器学习高性能单机、分布式训练和跨平台部署)
http://www.paddlepaddle.org/
Apache License 2.0
22.23k stars 5.58k forks source link

dlpack 提问 #53640

Closed ahua2333 closed 5 months ago

ahua2333 commented 1 year ago

请提出你的问题 Please ask your question

想问下dlpack 在完成框架间转换的时候是如何 确定stream 同步的,因为不同框架间同步的方式不同,看array api 中是有dlpack(steam) 来保证自己框架去做同步,pytotch 类似的实现是:https://github.com/pytorch/pytorch/blob/main/torch/utils/dlpack.py#L115, 但是在paddle中好像并没有这个功能,我理解是说用户自己在调用dlpack的自己手动调用一些torch.full_sync这样的接口来保证steam的同步性吗?框架本身只做转换,还是说paddle内部已经支持了?

DesmonDay commented 1 year ago

稍等,我看代码确认下,大概明天给你答复。

DesmonDay commented 1 year ago

看了一下实现代码,我们在进行dlpack数据的拷贝时调用了paddle::memory::Copy接口,然而这个接口并不会自动做同步,所以目前的实现代码是需要自动手动同步的。但正常来说应当让框架来保证同步性,这个后续我会增加相应的实现来保证。如果提PR了就在这里同步一下。

paddle-bot[bot] commented 5 months ago

Since you haven\'t replied for more than a year, we have closed this issue/pr. If the problem is not solved or there is a follow-up one, please reopen it at any time and we will continue to follow up. 由于您超过一年未回复,我们将关闭这个issue/pr。 若问题未解决或有后续问题,请随时重新打开,我们会继续跟进。