westfish
commented
9 months ago 这个可能需要向paddle库反馈，目前tensorrt首次加载会很长，可以尝试使用模型缓存
另外，如果有图像、视频理解和生成的需求，可以使用我们新的跨模态工具: https://github.com/PaddlePaddle/PaddleMIX/tree/develop
Open ygygyeah opened 1 year ago
westfish
commented
9 months ago 这个可能需要向paddle库反馈，目前tensorrt首次加载会很长，可以尝试使用模型缓存
另外，如果有图像、视频理解和生成的需求，可以使用我们新的跨模态工具: https://github.com/PaddlePaddle/PaddleMIX/tree/develop
使用paddle 推理pptsmv2模型，模型输入为ppTSMv2.pdiparams 和ppTSMv2.pdmodel，设置有使用tensorrt加速。 在每次程序启动时，模型加载时间较长，大概为两三分钟。 请问，应该怎么解决？