文字识别模型为何输入的文字片段更小反而耗时更多

YCG09 / chinese_ocr

CTPN + DenseNet + CTC based end-to-end Chinese OCR implemented using tensorflow and keras

Apache License 2.0

2.74k stars 1.08k forks source link

Open ws-lin opened 4 years ago

ws-lin commented 4 years ago

测试了一下，用训练的图片进行测试，1080ti下一张耗时4ms左右很稳定,但是用其他图片截取下的文字来测试耗时甚至增加了好几倍，有的文字片段只有两三个字也需要耗时几十毫秒，耗时很不稳定，图片尺寸跟训练的相差不大，请问博主这是怎么回事 @YCG09

xxxxxxxiao commented 4 years ago

同问。。我的也不稳定

ws-lin commented 4 years ago

我发现这个模型很奇怪，不是相同尺寸的图片输入第一张总是耗时很多，我用了for循环测试10张不同尺寸的图片，每张重复测试10次，每张图片的第一次推理时间耗时特别多，后面的都很稳定。还有一个有趣的现象，不同尺寸的图片进行遍历只用cpu居然比用gpu耗时要少

northeastsquare commented 4 years ago

刚载入模型，第一次推理，是要慢，第二次就好了

ws-lin commented 4 years ago

刚载入模型，第一次推理，是要慢，第二次就好了

是加载完模型了的，每次换用不同尺寸的图片输入推理时间耗时就很异常，我测试了这个应该是keras框架的问题，pytorch就不会