Closed jamilatta closed 6 years ago
Verificando os status de retorno para cada URL, obtemos a seguinte lista:
('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0066-782X2014002300443', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600032', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600033', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600034', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600035', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600036', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600037', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600038', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600039', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600040', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600041', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600042', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600043', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600044', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300038', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300039', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300040', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300041', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300042', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200026', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200028', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200029', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200030', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200031', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200032', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200033', 200) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200027', 200)
('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0103-166X2013000200012', 500)
('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100002', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100003', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100004', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100005', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100006', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100010', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100007', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100011', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100008', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100009', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100014', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100013', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100015', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100016', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100012', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100018', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100017', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100020', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100021', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100019', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100022', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100025', 404)
Resumo: 27 com código: 200, 1 com código: 500 e 22 com código: 404.
Todos os registros que retornam 200 agora estão no articlemeta com o texto completo:
http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0066-782X2014002300443 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600032 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600033 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600033 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600035 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600036 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600037 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600038 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600039 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600040 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600041 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600042 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600043 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2001000600044 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2002000300038 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2002000300039 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2002000300040 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2002000300041 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X2002000300042 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200026 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200028 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200029 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200030 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200031 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200032 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200033 http://articlemeta.scielo.org/api/v1/article/?collection=scl&&body=true&code=S0102-311X1998000200027
Necessário agora reprocessar a fase de transformação e carga!
Artigos carregado no AM e no Novo Site SciELO.
Alguns exemplos:
https://opac.scielo.br/article/csp/2001.v17n6/1296-1297/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1297-1298/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1298-1299/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1300-1301/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1301-1302/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1302-1304/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1304-1306/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1306-1307/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1308-1308/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1309-1311/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1548-1549/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1550-1554/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1555-1557/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1558-1559/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1289-1291/pt/ https://opac.scielo.br/article/csp/2001.v17n6/1291-1292/pt/
IMPORTANTE: Esses artigos permaneceram da mesma forma:
('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0103-166X2013000200012', 500)
('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100002', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100003', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100004', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100005', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100006', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100010', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100007', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100011', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100008', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100009', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100014', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100013', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100015', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100016', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100012', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100018', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100017', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100020', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100021', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100019', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100022', 404) ('http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100025', 404)
Analisando o processamento do novo site SciELO. Verifiquei que alguns PIDs não contém o texto completo.
São eles:
Analisando todos os links no site atual alguns retornam o artigo, outros retornam uma página de erro.
http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0066-782X2014002300443 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600032 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600033 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600034 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600035 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600036 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600037 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600038 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600039 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600040 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600041 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600042 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600043 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2001000600044 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300038 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300039 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300040 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300041 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X2002000300042 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200026 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200028 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200029 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200030 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200031 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200032 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200033 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-311X1998000200027 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0103-166X2013000200012 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100002 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100003 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100004 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100005 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100006 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100010 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100007 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100011 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100008 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100009 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100014 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100013 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100015 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100016 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100012 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100018 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100017 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100020 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100021 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100019 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100022 http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0102-05362006000100025