ChenGongfu
commented
1 year ago 这个问题已经解答了哦： 我按照这个大佬的回答，改了错误提示的文件quant_conv.py的参数就可以了。 modify QuantConvTranspose2d method in YOLOv6/venv/lib/python3.10/site-packages/pytorch_quantization/nn/modules/quant_conv.py change output_padding = self._output_padding(input, output_size, self.stride, self.padding, self.kernel_size) to output_padding = self._output_padding(input, output_size, self.stride, self.padding, self.kernel_size, 2)
Originally posted by @EchoEsprit in https://github.com/meituan/YOLOv6/issues/557#issuecomment-1472210244
Before Asking
[X] I have read the README carefully. 我已经仔细阅读了README上的操作指引。
[X] I want to train my custom dataset, and I have read the tutorials for training your custom data carefully and organize my dataset correctly; (FYI: We recommand you to apply the config files of xx_finetune.py.) 我想训练自定义数据集，我已经仔细阅读了训练自定义数据的教程，以及按照正确的目录结构存放数据集。（FYI: 我们推荐使用xx_finetune.py等配置文件训练自定义数据集。）
[X] I have pulled the latest code of main branch to run again and the problem still existed. 我已经拉取了主分支上最新的代码，重新运行之后，问题仍不能解决。
Search before asking
Question
大佬，我先后使用yolov6n_hs.py和yolov6n_opt.py 通过自己的数据集训练出了对应的scale和目标网络，之后再进行PTQ量化时，出现报错TypeError: _output_padding() missing 1 required positional argument: 'num_spatial_dims' 我看到您之前有回复说官方代码只检验了0.2.0版本的适配性，但是我发现0.2.0版本官方只提供了yolov6s的文件，我试了0.2.0以上版本的代码发现都有问题，不知道现在该如何解决，目前我是想使用最小的n型模型训练出最新的模型，再通过量化使他变得更小，以满足我的需求，希望能够得到大佬的帮助！谢谢！
Additional
No response