paddle.linalg.matrix_exp存在精度问题

PaddlePaddle / Paddle

PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice （『飞桨』核心框架，深度学习&机器学习高性能单机、分布式训练和跨平台部署）

http://www.paddlepaddle.org/

Apache License 2.0

22.24k stars 5.58k forks source link

Open leeleolay opened 1 week ago

leeleolay commented 1 week ago

paddle.linalg.matrix_exp存在精度问题，在使用过程中，对于比较大的矩阵运算，存在精度的问题，api文档里的测试是5*5矩阵比较小，可能未能排查出误差

No response

will-jl944 commented 1 week ago

请提供下可以复现精度问题的代码，以及当前使用的paddlepaddle版本

leeleolay commented 9 hours ago

tensor.txt txt文件原本是npy格式的