tchapgouv / tchap-stats

Scripts et organisation des statistiques fournies à Metabase provenant des données matrix
2 stars 1 forks source link

que se passe-t-il avec pushers_aggregate #78

Open odelcroi opened 4 weeks ago

odelcroi commented 4 weeks ago

94 millions de lignes semble exagéré

image
odelcroi commented 4 weeks ago

Chaque jour, un snapshot des configuration des "pushers" sont exportés sur S3 :

selon ce shéma: user_name, device_id, app_id, kind, enabled, instance, domain

Puis ajouter à la base pushers_aggregate selon le même schéma

La base pushers aggregate ne possede pas de unique index. Elle accumule les snapshots importés depuis la mise en place du pipeline.

Cette table est utilisé sur les dashboards suivants : https://stats.tchap.incubateur.net/reference/databases/2/tables/24/questions

odelcroi commented 4 weeks ago

Actuellement la table est inutile car il n'y a pas de données temporelles qui permettraient de comprendre l'évolution ou à minima de connaitre la derniere valeur connue.

Proposition : 1/ quick fix

2/ refactoring