etalab / transport-site

Rendre disponible, valoriser et améliorer les données transports
https://transport.data.gouv.fr
186 stars 28 forks source link

Intégrer le convertisseur netex #1102

Closed Tristramg closed 4 years ago

antoine-de commented 4 years ago

vu les temps de génération (20mn pour l'idf), ca va être compliqué de faire une génération à la volée.

On pourrait pousser les NeTEx en ressources communautaires sur data.gouv, comme ca elles seront dispo en dehors de transport directement sur data.gouv.

On peut mettre en place, soit un outil complètement séparé, soit dans les jobs sur le site (j'ai l'impression que c'est le plus simple, ca fait pas un nouveau truc à exploiter).

On pourrait faire un peu comme pour l'historique (voir le faire dans le même job que celui qui historise ? :thinking: ) : Pour chaque ressource GTFS,

J'ai l'impression que c'est pas super compliqué. Des remarques / points que j'aurai loupés ?

Tristramg commented 4 years ago

Côté transport-site, c’est les mêmes règle que pour revalider, non ? Ça pourrait pas être le trigger ?

Je regarde l’API datagouv pour voir comment bien gérer le cas des ressources multiples, de la resource de base mise à jour.

Vu les délais, je pense qu’il faut un serveur dédié, sinon y’aura des machins qui vont timeouter.

antoine-de commented 4 years ago

le convertisseur a été intégré dans une bête API flask https://github.com/etalab/gtfs_converter/ et déployé en docker.

toutes les nuits on demande la génération des netex pour les ressources qui ont été modifées, je pense qu'on peut fermer