Oneflow-Inc / oneflow

OneFlow is a deep learning framework designed to be user-friendly, scalable and efficient.
http://www.oneflow.org
Apache License 2.0
5.87k stars 667 forks source link

[feature]add tensor folder map to graph #10525

Open crazy-JiangDongHua opened 4 months ago

crazy-JiangDongHua commented 4 months ago

给 graph 增加了 folder tensor map 这个结构,包含了所有经由 folder op 做的优化 pass 的输入输出 tensor 的名字,以及可以用来做等价计算的函数。

这个特征的应用场景是,在 sd 模型中,存在两个权重不同,但结构完全一样的 unet ,在第一次编译完以后,第二次加载不同的权重,可以手动计算图优化以后的权重,而不是再做一次图编译,节省时间。