AO ABRIR uma Pull Request de um novo raspador (spider), marque com um X cada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.
[X] O(s) raspador(es) adicionado(s) cria(m) objetos do tipo Gazette coletando todos os metadados necessários.
[X] O atributo de classe start_date foi preenchido com a data da edição de diário oficial mais antiga disponível no site.
[X] Explicitar o atributo de classe end_date não se fez necessário.
[X] Não utilizo custom_settings em meu raspador.
Testes
[X] Uma coleta-teste da última edição foi feita. O arquivo de .log deste teste está anexado na PR.
[X] Uma coleta-teste por intervalo arbitrário foi feita. Os arquivos de .loge .csv deste teste estão anexados na PR.
[x] Uma coleta-teste completa foi feita. Os arquivos de .log e .csv deste teste estão anexados na PR.
Verificações
[X] Eu experimentei abrir alguns arquivos de diários oficiais coletados pelo meu raspador e verifiquei eles conforme a documentação não encontrando problemas.
[X] Eu verifiquei os arquivos .csv gerados pela minha coleta conforme a documentação não encontrando problemas.
[X] Eu verifiquei os arquivos de .log gerados pela minha coleta conforme a documentação não encontrando problemas.
AO ABRIR uma Pull Request de um novo raspador (spider), marque com um
X
cada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.Layout do site publicador de diários oficiais
Marque apenas um dos itens a seguir:
Código da(s) spider(s)
custom_settings
em meu raspador.Testes
.log
deste teste está anexado na PR..log
e.csv
deste teste estão anexados na PR..log
e.csv
deste teste estão anexados na PR.Verificações
.csv
gerados pela minha coleta conforme a documentação não encontrando problemas..log
gerados pela minha coleta conforme a documentação não encontrando problemas.Descrição
A spider atual está defasada, pois consulta o domínio https://servicos2.sjc.sp.gov.br/, sendo que atualmente os boletins são disponibilizados através do site https://diariodomunicipio.sjc.sp.gov.br/
Logs
coleta da última edição (27/03/2024 até então) sp_sao_jose_dos_campos_marco_2024.log
coleta arbitrária sp_sao_jose_dos_campos_setembro_2022.log sp_sao_jose_dos_campos_setembro_2022.csv
coleta completa sp_sao_jose_dos_campos_completo.log sp_sao_jose_dos_campos_completo.csv
resolve #1123