Number of Queries and keys

lorenmt / reco

The implementation of "Bootstrapping Semantic Segmentation with Regional Contrast" [ICLR 2022].

https://shikun.io/projects/regional-contrast

Other

162 stars 25 forks source link

Number of Queries and keys #25

Closed wwjwy closed 2 years ago

wwjwy commented 2 years ago

再次打扰一下作者，请问消融研究中的Number of Queries and keys，keys数量选择指的是负样本（r k-）的数量吗？还有就是消融研究中query-key数量研究是怎么进行的呢，比如query依次选择32 64 128 256 时，对应的key数量是固定值吗？如果是固定为多少呢？谢谢！

lorenmt commented 2 years ago

对，只改一个参数剩下的是默认。默认参数定义在python file 里。

wwjwy commented 2 years ago

明白了，谢谢您！

wwjwy commented 2 years ago

最终选择的结果为query256 key512最优，可以发现需要更多的key，可以理解为因为与其他类别进行对比学习时需要更多的负样本点用来对比吗？

lorenmt commented 2 years ago

这只是超参而已不用过度解读

wwjwy commented 2 years ago

好的好的