splor-mg / dados-sigplan-monitoramento

0 stars 0 forks source link

sigplan-monitoramento-dados

Updated

Pré-requisitos

Para execução local é necessário a a criação do ambiente virtual do projeto e instalação das dependências do python:

python -m venv venv
cd pasta/do/projeto
source venv/bin/activate
python -m pip install -r requirements.txt

Uso

Para executar a pipeline de dados:

make all

Cada uma das etapas da pipeline pode ser executadas separadamente, caso necessário, com os comandos make extract, describe, validate, transform, build, check.

Se o processo ocorrer sem erros e as validações e checagens não apresentarem problemas, para realizar o upload atualizando o datapackage no github utilize:

make publish

Obs.: As bases do monitoramento do sigplan estão em formato wide e novas colunas são adicionadas a cada mês. Por isso, os schemas dos recursos de dados devem ser atualizados de maneira correspondente. O target describe presente no makefile realiza essa atualização dinâmica por meio do pacote Jinja2.

Gerado a partir de cookiecutter-datapackage@a50ad4d