Funcionalidad 10: Ban Hammer automatico (el mejor ban hammer)

acmfi / discord-bot

Discord bot developed during summer 2020 as a summer project :D

1 stars 0 forks source link

Funcionalidad 10: Ban Hammer automatico (el mejor ban hammer) #17

Open JustAntoRS opened 4 years ago

JustAntoRS commented 4 years ago

Sistema de moderación automática, que cambie palabras extremadamente ofensivas por equivalentes no ofensivos (¿y con un toque cómico/irónico?)

JustAntoRS commented 4 years ago

Para empezar con esto, podemos hacer que simplemente el bot lea cada mensaje enviado por cualquier canal de texto del servidor. Y compruebe si cada palabra pertenece a una lista de palabras prohibidas y toma una decision en base a esto.

La primera iteracion seria que simplemente sustituya la palabra por astericos y despues podriamos buscar alguna forma de detectar cosas mas complejas (acoso, apologia de odio, racismo, etc etc) y que banee automaticamente o como minimo envie un aviso a los administradores.

¿Opiniones?

Santixs commented 4 years ago

Para empezar con esto, podemos hacer que simplemente el bot lea cada mensaje enviado por cualquier canal de texto del servidor. Y compruebe si cada palabra pertenece a una lista de palabras prohibidas y toma una decision en base a esto.

La primera iteracion seria que simplemente sustituya la palabra por astericos y despues podriamos buscar alguna forma de detectar cosas mas complejas (acoso, apologia de odio, racismo, etc etc) y que banee automaticamente o como minimo envie un aviso a los administradores.

¿Opiniones?

Por mi perfecto, podemos empezar implementándolo con una blacklist y luego ya lo vamos complicando para que sea mas sofisticado.

Para no tener que estar añadiendo palabra a palabra he encontrado unas cuantas blacklists como esta, que nos pueden servir como base (y para echarnos unas risas)

https://github.com/Somelx/Insultos/blob/master/diccionario.txt

Santixs commented 4 years ago

He empezado a hacer la primera versión pero me he topado con un problema, la api de discord solo permite editar tus propios mensajes, por lo que independientemente de los permisos el bot no puede sustituir la palabra prohibida por ***.

Cuando se detecte una palabra prohibida, ¿qué debe hacer el bot? Se me ocurren varias opciones:

Que el bot envíe el mismo mensaje pero con la palabra cambiada por asteriscos
Que el bot elimine le mensaje y por privado le diga al usuario que x palabra no se puede usar

¿Cual os parece mejor?,¿Alguna otra idea?

jonsalchichonnn commented 4 years ago

Creo que la de eliminar el mensaje está mejor

JustAntoRS commented 4 years ago

Me gusta la segunda opcion, que borre el mensaje y que el bot envie un mensaje al usuario diciendo que X palabra esta prohibida. Podemos probar esto y si vemos que es muy restrictivo hacemos los astericos porque si no se hara muy pesado.