radar-parlamentar / radar

Estamos de mudança para o GitLab: https://gitlab.com/radar-parlamentar/radar.
http://radarparlamentar.polignu.org
84 stars 44 forks source link

Automatizando ano_max na lista de anos de importação do cmsp #462

Closed thiagonf closed 6 years ago

thiagonf commented 6 years ago

Co-authored-by: Thiago Nogueira thiagonf10@gmail.com Co-authored-by: Gustavo Lopes gustavo.ldbrito@gmail.com Co-authored-by: Jeferson Alves ferreira.jefersonn@gmail.com

leonardofl commented 6 years ago

Rodei o importador na minha máquina e não funcionou, não importou nada.

Creio que a razão seja a falta de um underline na URL do XML.

Mas esse simples teste que eu fiz, vocês poderiam ter feito antes de enviarem o código =(

No caso, se é o importador da cmsp que vocês alteraram, valia a pena executar o importador pra ver se tá tudo certo (apagando antes os dados do banco pra ter certeza que os dados estão sendo mesmo importados). Trata-se de um teste manual, mas é meio que um teste de fumaça pra dar confiança que o todo está coerente.

Nesse caso os testes automatizados não pegaram o problema pq acho que os testes do importador se baseiam em um XML fixo de teste. Principalmente agora que o importador vai chamar uma URL isso faz sentido, para que o teste do importador em si não dependa da variação do estado de um XML on-line. A saída para isso é desacoplar o acesso ao XML on-line em uma classe separada (na cdep está assim), e fazer um teste de integração separado para essa classe.

leonardofl commented 6 years ago

PS: vejam que quando vocês entregam algum código com problemas graves desse tipo, nosso esforço de verificação aqui é dobrado, pois não queremos criticar vocês com o risco de estarmos errados.

thiagonf commented 6 years ago

Olá vi seu feedback, acreditei que rodando apenas o dockcer-compose run test já conseguiria saber se estava tudo ok com alteração. Quando você diz pra fazer o teste manualmente seria apagando todo o banco e subindo novamente?? É porque para subir o banco de dados nas nossas máquinas demora de 2 a 3 horas com os comandos que estão diponíveis na documentação de vocês. Fica um pouco complicado ter que esperar todo esse tempo todas as vezes que for preciso testar uma modificação.

leonardofl commented 6 years ago

No caso, em desenvolvimento, normalmente não precisam carregar todas as casas legislativas... nesse caso basta carregar a própria cmsp. No meu localhost normalmente só tenho a cmsp. Se precisar testar algo específico com a cdep, daí carrega-se a cdep. Há ainda um truque... na hora de carregar a cdep vcs podem alterar o ANO_MIN pra algo mais próximo, pra não demorar tanto.

Mas independente dos testes q já existem, nesse caso foi desenvolvido algo novo (acesso aos XMLs on-line) e esse pedaço novo não foi testado. Se fizer um teste isolado pra essa parte (daí tem q desacoplar a classe adequadamente), nem precisaria fazer oq eu disse do teste manual. Mas mesmo assim eu faria (tanto q eu fiz).

lopes05 commented 6 years ago

Como subir só uma parte do banco? Tem algum dump da base de dados só pra isso?

leonardofl commented 6 years ago

Como subir só uma parte do banco? Tem algum dump da base de dados só pra isso?

ver seção Importação dos dados do documento de setup.

Outra dica útil se vc tiver carregado todas as bases, mas quiser apagar só uma, e não todas:

 from modelagem import models
 models.CasaLegislativa.deleta_casa('cmsp')
leonardofl commented 6 years ago

Humm... achei q outro dia tinha visto q vcs tinham adicionado o underline que faltava... mas não tô achando isso nos commits deste PR. Além disso, a lista de commits desse PR tá bem poluída, com commits da lista de partidos no meio. Recomendo um novo PR limpo.