position embedding 跟图像大小有关系吗？

MendelXu / SAN

Open-vocabulary Semantic Segmentation

https://mendelxu.github.io/SAN/

MIT License

295 stars 27 forks source link

Closed APeiZou closed 9 months ago

APeiZou commented 10 months ago

@stupidZZ position embedding 跟图像大小有关系吗？有什么方法做到position embedding 跟图像大小无关吗？

MendelXu commented 10 months ago

这是因为现在使用的是绝对位置编码，如果你改成相对位置编码就跟图像大小无关了。

APeiZou commented 9 months ago

@MendelXu 那这个更新了图像大小，位置clip部分编码层的参数是可学习的吗？

MendelXu commented 9 months ago

是的，可学习的