Yunfan-Li / Contrastive-Clustering

Code for the paper "Contrastive Clustering" (AAAI 2021)
MIT License
289 stars 92 forks source link

some question about softmax’s output #19

Open Allfu opened 2 years ago

Allfu commented 2 years ago

大佬,应该是中国人吧,我就用中文了:

是这样,我用自己的数据训练了一下,然后前向推理时,我在softmax那个地方加了个日志,把输出写到本地看了一下,排序后发现最大的输出并不是“赢者通吃”的状态,甚至出现了有并列最大值的情况,这种状况下,使用argmax获得到的索引能直接作为类别使用么? 可能是我的使用方式不当,希望大佬指点一下;

优秀的工作,感谢分享!

Yunfan-Li commented 2 years ago

谢谢!因为我也没测试过除了公开数据集以外的数据,不知道是不是您数据集的特殊性。如果数据本身具有明确的可分性,您可以尝试以下修改:1. 调节Cluster Loss的温度系数 2. 加入熵正则项,惩罚非“赢者通吃”的预测。