AO ABRIR uma Pull Request de um novo raspador (spider), marque com um X cada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.
[X] O(s) raspador(es) adicionado(s) cria(m) objetos do tipo Gazette coletando todos os metadados necessários.
[X] O atributo de classe start_date foi preenchido com a data da edição de diário oficial mais antiga disponível no site.
[X] Explicitar o atributo de classe end_date não se fez necessário.
[X] Não utilizo custom_settings em meu raspador.
Testes
[X] Uma coleta-teste da última edição foi feita. O arquivo de .log deste teste está anexado na PR.
ultima.log
[X] Uma coleta-teste por intervalo arbitrário foi feita. Os arquivos de .loge .csv deste teste estão anexados na PR.
intervalo.logintervalo.csv
[X] Uma coleta-teste completa foi feita. Os arquivos de .log e .csv deste teste estão anexados na PR.
completa.logcompleta.csv
Verificações
[X] Eu experimentei abrir alguns arquivos de diários oficiais coletados pelo meu raspador e verifiquei eles conforme a documentação não encontrando problemas.
[X] Eu verifiquei os arquivos .csv gerados pela minha coleta conforme a documentação não encontrando problemas.
[X] Eu verifiquei os arquivos de .log gerados pela minha coleta conforme a documentação não encontrando problemas.
Descrição
Foi criado um Spider para Macaé/RJ, conforme issue #1199
A quantidade alta de response 302 ( 'downloader/response_status_count/302') já era esperado devido ao comportamento do site que redireciona para outra página ao clicar no link de download da edição.
AO ABRIR uma Pull Request de um novo raspador (spider), marque com um
X
cada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.Layout do site publicador de diários oficiais
Marque apenas um dos itens a seguir:
Código da(s) spider(s)
custom_settings
em meu raspador.Testes
.log
deste teste está anexado na PR. ultima.log.log
e.csv
deste teste estão anexados na PR. intervalo.log intervalo.csv.log
e.csv
deste teste estão anexados na PR. completa.log completa.csvVerificações
.csv
gerados pela minha coleta conforme a documentação não encontrando problemas..log
gerados pela minha coleta conforme a documentação não encontrando problemas.Descrição
Foi criado um Spider para Macaé/RJ, conforme issue #1199 A quantidade alta de response 302 ( 'downloader/response_status_count/302') já era esperado devido ao comportamento do site que redireciona para outra página ao clicar no link de download da edição.