5g4s / paper

0 stars 0 forks source link

Implicit Neural Representations with Periodic Activation Functions #5

Open 5g4s opened 3 years ago

5g4s commented 3 years ago

paper https://arxiv.org/abs/2006.09661

official web page https://vsitzmann.github.io/siren/

解説blog https://medium.com%2F@medium.com/@sallyrobotics.blog/sirens-implicit-neural-representations-with-periodic-activation-functions-f425c7f710fa

activationによく使われるReLUは2回微分が0になるので、高次元の微分を含んだモデル(例えば、Eikonal equationsやPoisson equation)に使うことができない。 このような高次元のcontinuous implicit neural representationにおいてactivationに三角関数のsinを適用することを提案している。

初期値のとり方についても言及している。

5g4s commented 3 years ago

unofficial github https://github.com/dalmia/siren https://github.com/lucidrains/siren-pytorch