siliconflow / onediff

OneDiff: An out-of-the-box acceleration library for diffusion models.
https://github.com/siliconflow/onediff/wiki
Apache License 2.0
1.41k stars 85 forks source link

Add nexfort cache for onediff #900

Closed lixiang007666 closed 1 month ago

lixiang007666 commented 1 month ago

This PR is done:

setup_nexfort_pipe_cache(cache_dir),开启 INDUCTOR 的 fx graph 缓存,设置缓存路径(包括Autotuning Cache)。

lixiang007666 commented 1 month ago

@strint 可能是 logging 多重配置了,所以我用 onediff 的 logger 没有输出信息,不过现在的做法没有问题了。

strint commented 1 month ago

@strint 可能是 logging 多重配置了,所以我用 onediff 的 logger 没有输出信息,不过现在的做法没有问题了。

onediff logger 我记得默认是 warning 等级。你需要打开 ONEDIFF_DEBUG 才能看到日志

lixiang007666 commented 1 month ago

@strint 可能是 logging 多重配置了,所以我用 onediff 的 logger 没有输出信息,不过现在的做法没有问题了。

onediff logger 我记得默认是 warning 等级。你需要打开 ONEDIFF_DEBUG 才能看到日志

这里还是先用 nexfort 的 logger 吧,因为都是和 nexfort 相关的,不是希望打开 DEBUG 才能看到的。