avifもAIによるセンシティブなメディア検出のチェック対象にしたい

[kakunpc]

Summary

AIによるセンシティブなメディア検出は静止画であれば「jpeg」「png」「webp」が対象ですが、 そこに「avif」も検出対象として追加したいです。

ref - https://github.com/misskey-dev/misskey/blob/develop/packages/backend/src/core/FileInfoService.ts#L178-L186

ただ、使用しているnsfwjsはavifを受け付けてくれないので、動画のように一度png形式などに変換しておく必要があります。

また、こちらの提案は自分のサーバーで使用したかったので既にForkして実装済みのものとなります。
問題なさそうであればPull Requestを発行しようと思いますが、まずは意見として「avif」をチェック対象にするべきかどうか伺いたかったのでIssueから提案させていただきました。

自サーバーで行った変更内容 - https://github.com/misskey-dev/misskey/commit/85ab93f5eb051585d1dac656d0a423d820b38863

[saschanaz]

実はWebPもサポートしてないのに許可しちゃってる気がします　https://js.tensorflow.org/api_node/4.4.0/#node.decodeImage (#8840 からずっとこうでしたので謎)

[Magatama1000]

挙げられている通りavifもwebpもセンシティブの判定が機能していませんので機能するようお願いしたいです

[tamaina]

🔥