search

NagatoYuki0943 / anomalib-tensorrt-cpp

24 stars 6 forks source link

创建context报错 #8

Open wuxianjun666 opened 6 months ago

wuxianjun666 commented 6 months ago

image 请问一下这个问题可以解决吗，在通过engine创建context的时候报错了

NagatoYuki0943 commented 6 months ago

我没遇到过这样的问题，就我对tensorrt的了解，engine格式的模型必须要保证使用的显卡，cuda和tensorrt版本相同才行，如果是从别的电脑复制过来的engine模型可能没法用，其他问题我也不是很清楚

wuxianjun666 commented 6 months ago

好的，谢谢博主，我再看看，我用的是trtexec转的权重，然后用的版本和你是一样的8.6.1，我的cuda版本是11.8。我的显卡是RTX3060的，显卡驱动版本是536.23

NagatoYuki0943 commented 6 months ago

你可以打印一下 this->engine，看看是不是全为0，如果是的话那就是 engine 都没有生成，载入就失败了

wuxianjun666 commented 6 months ago

image 打印出来的地址是0x7ffbac542c10 然后通过engine创建context的时候，它这个mImpl的地址是0xcccccccccccccccc，这是正常的吗 image

wuxianjun666 commented 6 months ago

我最近在学习部署异常值检测，可以加个联系方式，向你请教一下嘛

NagatoYuki0943 commented 6 months ago

image 打印出来的地址是0x7ffbac542c10 然后通过engine创建context的时候，它这个mImpl的地址是0xcccccccccccccccc，这是正常的吗 image

https://blog.csdn.net/weixin_43939593/article/details/103749002 中显示 0xcccccccccccccccc 是未初始化的，不正常，engine到时没问题，context就不清楚为什么创建失败了

NagatoYuki0943 commented 6 months ago

我最近在学习部署异常值检测，可以加个联系方式，向你请教一下嘛

其实我不做异常值检测了，现在用的是普通的目标检测模型

wuxianjun666 commented 6 months ago

目标检测我也一直在做，最近开始接触异常值，感觉你对于部署很厉害，想跟你认识一下

NagatoYuki0943 commented 6 months ago

部署我写了一个学习的库 https://github.com/NagatoYuki0943/dl-infer-learn ，里面有 python 和 c++ 用各种推理库实现图像分类检测的库，可以用来学习推理框架，不过我也仅仅是跑通了而已，不了解细节，建议先看 python 的，里面可以生成对应的模型

wuxianjun666 commented 6 months ago

好的好的，感谢博主