Open MyWestCity opened 1 month ago
我们发布前Valgrind检测没有内存泄漏,可以多线程进行一下压测,观察下内存是否一直增长没有释放,目前不清楚是否是onnxruntime的缓存引起的
我们发布前Valgrind检测没有内存泄漏,可以多线程进行一下压测,观察下内存是否一直增长没有释放,目前不清楚是否是onnxruntime的缓存引起的
内存是一直在增长,但是速度不定,有时涨的多,有时又基本不涨,但是没有释放过。
我屏蔽掉runtime推理的API之后,
内存就基本不涨了,所以应该不是其他代码内存的问题。
同时我尝试了下屏蔽初始化模型时的设置代码
这样启动的时候内存会多占一些,但是后续推理的时候相对于之前涨的会慢得多
我们发布前Valgrind检测没有内存泄漏,可以多线程进行一下压测,观察下内存是否一直增长没有释放,目前不清楚是否是onnxruntime的缓存引起的
内存是一直在增长,但是速度不定,有时涨的多,有时又基本不涨,但是没有释放过。 我屏蔽掉runtime推理的API之后,
内存就基本不涨了,所以应该不是其他代码内存的问题。 同时我尝试了下屏蔽初始化模型时的设置代码
这样启动的时候内存会多占一些,但是后续推理的时候相对于之前涨的会慢得多
内存没有释放过不太可能,我观察过离线文件转写的内存是会释放的; disablecpumemarena是禁止使用onnx内部内存管理
拉取官方镜像funasr-runtime-sdk-online-cpu-0.1.10 运行run_server_2pass.sh
启动的时候,内存如下
进行语音识别,过了一分钟,内存就涨了100M,如下
然后我用Valgrind检测内存泄漏,也没有检测到内存泄漏,请问涨的内存是在哪,是泄漏还是缓存呢?