自動的にNSFWコンテンツを検知し、処理するためにNSFW.jsを実装する

[L4Ph]

What

NSFW.jsの実装

• [x] クライアント側に実装するか、サーバー側に実装するかを考える
• [ ] NSFW.jsの実装
• [x] nsfw_modelの配置
• [ ] nsfw_modelの追加学習

参考

• https://github.com/misskey-dev/misskey/pull/8840
• https://github.com/AUTOMATIC1111/stable-diffusion-webui/issues/8739

Why

だいたい参考URL先に書いてあるけど、

• ユーザーの利便性向上のため
• モデレーション効率向上のため
• 犯罪抑止のため

[L4Ph]

https://github.com/AUTOMATIC1111/stable-diffusion-webui-nsfw-censor https://huggingface.co/CompVis/stable-diffusion-safety-checker

[L4Ph]

クライアント側でいい気がしてる

[L4Ph]

https://github.com/alex000kim/nsfw_data_scraper

[L4Ph]

@nakatsuka-k 意見が欲しいです

[mikageymir]

精度を見てみたいです。

このような画像タグがあるときに

<img class="operator-image" src="https://www.aipictors.com/wp-content/uploads/2024/01/xxxx.webp" style="width: 100%; height: auto;" onload="resizeListImg('works_123456789'); return false;">

特定の関数呼ぶと、 .operator-image についてNSFW.jsで判定して、data-agelimit="0"～"3"のattrを設定してくれる。 （0:全年齢、1:R18、2:R18G、3:R15） みたいなJavaScriptのコードサンプルがあったらこちらで組み込んで使ってみます。

ある程度の精度があるなら、まずは投稿時にNSFW.jsの結果に応じて年齢区分のデフォルトを変えるだけでも効果がありそうです。

[L4Ph]

軽くNSFW.jsで検証した感じ、MobileNet v2だとちょっと無理がありそう(v3は要検証) InceptionNet v3はかなりちゃんと検出する

[L4Ph]

Inception v3はこれはこれで威力強すぎるな 追加学習必要かもしれない...

[nakatsuka-k]

検証ありがとうございます。

[L4Ph]

https://huggingface.co/datasets/deepghs/nsfw_detect/tree/main

Inception V3はデカいので、小さくするためにMobileNet v3に差し替えて、データセットも比較的新しいものを使う(train用のコードがだいぶ古くていろいろ動かないので、直す必要がある)

[L4Ph]

https://huggingface.co/deepghs/imgutils-models/tree/main/nsfw ONNX用のモデルを見つけた

Hug space https://huggingface.co/spaces/deepghs/nsfw_prediction

[L4Ph]

ONNX Web Runtimeで動かせそう https://github.com/microsoft/onnxruntime/tree/main/js/web