AO ABRIR uma Pull Request de um novo raspador (spider), marque com um X cada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.
[ ] O(s) raspador(es) adicionado(s) cria(m) objetos do tipo Gazette coletando todos os metadados necessários.
[ ] O atributo de classe start_date foi preenchido com a data da edição de diário oficial mais antiga disponível no site.
[ ] Explicitar o atributo de classe end_date não se fez necessário.
[ ] Não utilizo custom_settings em meu raspador.
Testes
[ ] Uma coleta-teste da última edição foi feita. O arquivo de .log deste teste está anexado na PR.
[ ] Uma coleta-teste por intervalo arbitrário foi feita. Os arquivos de .loge .csv deste teste estão anexados na PR.
[ ] Uma coleta-teste completa foi feita. Os arquivos de .log e .csv deste teste estão anexados na PR.
Verificações
[ ] Eu experimentei abrir alguns arquivos de diários oficiais coletados pelo meu raspador e verifiquei eles conforme a documentação não encontrando problemas.
[ ] Eu verifiquei os arquivos .csv gerados pela minha coleta conforme a documentação não encontrando problemas.
[ ] Eu verifiquei os arquivos de .log gerados pela minha coleta conforme a documentação não encontrando problemas.
Descrição
Esta branch foi criada pelo @valeriow para integrarmos o raspador de São Paulo-SP ao QD. Já faz alguns meses que Valerio começou e precisaria continuar. O ponto em que ele parou é o de tentar contornar as barreiras para raspagem que tem no site:
"eles parecem ter um sistema de proteção contra raspagem automatizada. Aparentemente eles aumentam o tempo de resposta em determinadas situações e às vezes ligam um captcha...
uma vez obtida a base histórica (diários antigos), acho que a raspagem incremental diária não seria um problema. Para obter a base histórica podemos tentar usar alguns artifícios técnicos: usar proxies, diminuir o fluxo das requisições, entre outros."
AO ABRIR uma Pull Request de um novo raspador (spider), marque com um
Xcada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.Layout do site publicador de diários oficiais
Marque apenas um dos itens a seguir:
Código da(s) spider(s)
custom_settingsem meu raspador.Testes
.logdeste teste está anexado na PR..loge.csvdeste teste estão anexados na PR..loge.csvdeste teste estão anexados na PR.Verificações
.csvgerados pela minha coleta conforme a documentação não encontrando problemas..loggerados pela minha coleta conforme a documentação não encontrando problemas.Descrição
Esta branch foi criada pelo @valeriow para integrarmos o raspador de São Paulo-SP ao QD. Já faz alguns meses que Valerio começou e precisaria continuar. O ponto em que ele parou é o de tentar contornar as barreiras para raspagem que tem no site:
"eles parecem ter um sistema de proteção contra raspagem automatizada. Aparentemente eles aumentam o tempo de resposta em determinadas situações e às vezes ligam um captcha... uma vez obtida a base histórica (diários antigos), acho que a raspagem incremental diária não seria um problema. Para obter a base histórica podemos tentar usar alguns artifícios técnicos: usar proxies, diminuir o fluxo das requisições, entre outros."