search

Tencent / ncnn

ncnn is a high-performance neural network inference framework optimized for the mobile platform
Other
20.43k stars 4.16k forks source link

yolact 在 NCNN 進行real-time視頻inference 時間過長之問題 #1749

Open wjwang0816 opened 4 years ago

wjwang0816 commented 4 years ago

請教 @nihui 大神，在下拜讀&follow您這篇大作 https://zhuanlan.zhihu.com/p/128974102 進行轉檔生成.param 和 .bin 成功，並以官方ncnn/examples/yolact.cpp為基礎來修改，以進行視頻(連續圖像)之inference，雖最終輸出結果是正確的，但inference時間卻有點長，在下目前以640x480的視頻進行inference(@ new i5 CPU)，一frame 竟需6秒多，根據在下的量測，每frame inference時，耗時多集中於ex.extract(...)之四行，其中又以第一行為最，似乎是進行甚麼initial行為，這樣是正常的嗎?有什麼方式可以縮減inference時間呢?是否能勞煩您指導一下，感激不盡!!!

GrushBrush commented 4 years ago

yes we are seeting this too. Can you fix this issue?

areebsyed commented 3 years ago

@wjwang0816 how can i modify yolact.bin and yolact.param? I just changed the concat layer 0=-3 to 0=0