search

iyume / nonebot-plugin-nsfw

群聊 NSFW 图片检测插件，带有撤回、禁言等功能。可配置使用 Safety Checker、NSFW Model 等多款模型。
Apache License 2.0
12 stars 2 forks source link

【使用反馈】模型识别率太感人了 #15

Open Xian0Grem opened 2 weeks ago

Xian0Grem commented 2 weeks ago

Screenshot_20241112_113747 这是默认模型

Xian0Grem commented 2 weeks ago

Screenshot_20241112_113608 这是r15那个模型

iyume commented 2 weeks ago

你可以在这里打个断点或者 print 看看：

https://github.com/iyume/nonebot-plugin-nsfw/blob/67c5a9cc7022a06f2655bae0b2f55bdfae07ae8b/nonebot_plugin_nsfw/vendor_nsfw_model.py#L97

nsfw-model 的判定条件是五个条件中最高概率在 ["hentai", "porn", "sexy"] 之中就是 positive。

你可以自己加点判断条件，这个就比较困难了。而且只拿反例来讲没什么意义，得统计一下错误率，3-5% 我觉得都是良好的。

至于 safety-checker 那边也不方便调整。

Xian0Grem commented 2 weeks ago

哦，抱歉我举的例子不太全面 非常感谢你提供方法，虽然我完全不会用） 我存储的图每天都清理，我这里只能提供今天的数据了 网页捕获_12-11-2024_143457_wasesuki top Q版表情包的占比特别高 因为我bot接收到的信息色图少，q版表情多 而这个模型会把部分q版表情包识别成色图 目前我只是把本插件作为静默存色图用 如果投入管理功能）有点吓人

iyume commented 2 weeks ago

近期有空会添加 https://huggingface.co/Falconsai/nsfw_image_detection

iyume commented 2 weeks ago

0.13 已发版，新增 nsfw_image_detection 模型。