LLM integration for admin

[syuilo]

Summary

管理者向けAI機能

• 通報一覧画面で通報内容を要約して表示する機能
• ダッシュボードの情報を要約して「今日は通常と比べてアカウントの作成数が異常に多くにゃっているようです」みたいにゃメッセージを通知してくれる機能
• etc

できればローカルで動いてオープンソースで多言語対応なもの使いたいけど無ければDeepLみたいに外部サービスとして連携できるようにする

Purpose

便利

Do you want to implement this feature yourself?

• [ ] Yes, I will implement this by myself and send a pull request

[syuilo]

https://ollama.com/ ってのがありそう

[MomentQYC]

Most administrators don't have GPU instances at the moment, and running them on CPU instances takes up a lot of resources and can be very slow to respond.

[syuilo]

ローカルで動くものがあったとしても外部サービスも選択肢として使えるようにしても良さそう それかエンドポイントみたいなのを指定する方式にすればローカルで動いてるものでも外部サービスでも自由に指定できそう

[kakkokari-gtyih]

AIを使わなくても実装できそうなものはなるべくAIをつかわないようにしたい

---

通報一覧画面で通報内容を要約して表示する機能

あり

今日は通常と比べてアカウントの作成数が異常に多くにゃっているようです

値のdeltaを取ってしきい値より大きかったら的な実装でAIを使わなくても実装できそう

[syuilo]

作成数以外の複数の要素が絡むとAI無しでは困難そう

[syuilo]

例えば作成数が増えてるけど投稿数も増えてるから単にバズったと見做すのか、投稿数は変わらないから異常だと見做すのかなどの判断を任せられる

[kakkokari-gtyih]

例えば作成数が増えてるけど投稿数も増えてるから単にバズったと見做すのか、投稿数は変わらないから異常だと見做すのかなどの判断を任せられる

AI経由だと一貫性のない判定になるかもしれない（まあでもAI使おうとしたら絶対「AIは間違いを含む可能性があります」みたいな注釈が入るので、あくまで参考程度ということでそれでもいいのかもしれない）

[syuilo]

異常があった時に通知されることを主眼にしているというよりはダッシュボードの雑多な情報を集約・要約して報告し運営のアドバイス・サポートをすることを考えている

[kakkokari-gtyih]

どういう実装であれオプトインの方が良いとは思う（サーバー運営の経験のない人にとっては便利でも、ノウハウがあってべつになくてもいける人にとってはとことん使われない機能そうなので）