dataabc / weiboSpider

新浪微博爬虫,用python爬取新浪微博数据
8.15k stars 1.95k forks source link

pip版备份自己微博至mysql,时间设置2009-01-01至今,总是抓取100页就正常退出了 #507

Closed qdladoooo closed 1 year ago

qdladoooo commented 1 year ago

2023-02-16 00:01:51,010 - spider.py - INFO - 共爬取458条微博 2023-02-16 00:01:51,010 - spider.py - INFO - 信息抓取完毕 2023-02-16 00:01:51,010 - spider.py - INFO

想问下有相关设置吗?

dataabc commented 1 year ago

pip版也是这样设置。不确定是不是爬自己微博的缘故,您爬别人的也这样吗?如果方便,您可以使用其它帐号爬自己的微博。

qdladoooo commented 1 year ago

没问题,因为退出方式十分规矩,以为是有意为之。 可能是微博方面的设置,我再搞个账号。