distill

[wuminjie12]

Before Asking

• [X] I have read the README carefully. 我已经仔细阅读了README上的操作指引。

• [X] I want to train my custom dataset, and I have read the tutorials for training your custom data carefully and organize my dataset correctly; (FYI: We recommand you to apply the config files of xx_finetune.py.) 我想训练自定义数据集，我已经仔细阅读了训练自定义数据的教程，以及按照正确的目录结构存放数据集。（FYI: 我们推荐使用xx_finetune.py等配置文件训练自定义数据集。）

• [X] I have pulled the latest code of main branch to run again and the problem still existed. 我已经拉取了主分支上最新的代码，重新运行之后，问题仍不能解决。

Search before asking

• [X] I have searched the YOLOv6 issues and found no similar questions.

Question

你好，我尝试用你们的蒸馏部分代码实现半监督学习，大致策略就是单batch中一半带标签，一半不带标签，整体均进行特征蒸馏，带标签的再进行正常的loss计算包括iou，dfl及cls，但batch调小的时候cls后续会变为0导致标签损失为0不起作用，以及有时候换了批数据也会出现，可能是什么原因？

Additional

No response

[Chilicyy]

您好，YOLOv6代码中自蒸馏只对分类分支和回归分支进行蒸馏学习，并没有进行特征蒸馏。特征蒸馏相关的参数配置是在量化感知训练实验中验证过，针对您的任务，可能需要调整下参数配置。

[wuminjie12]

好的，谢谢