Para execução local é necessário a a criação do ambiente virtual do projeto e instalação das dependências do python:
python -m venv venv
cd pasta/do/projeto
source venv/bin/activate
python -m pip install -r requirements.txt
Para executar a pipeline de dados:
make all
Cada uma das etapas da pipeline pode ser executadas separadamente, caso necessário, com os comandos make extract
, describe
, validate
, transform
, build
, check
.
Se o processo ocorrer sem erros e as validações e checagens não apresentarem problemas, para realizar o upload atualizando o datapackage no github utilize:
make publish
Obs.: As bases do monitoramento do sigplan estão em formato wide e novas colunas são adicionadas a cada mês. Por isso, os schemas dos recursos de dados devem ser atualizados de maneira correspondente. O target describe
presente no makefile
realiza essa atualização dinâmica por meio do pacote Jinja2.
Gerado a partir de cookiecutter-datapackage@a50ad4d