Open Guo-Hongfu opened 5 years ago
现在请求返回的是JSON格式,注意需要将proxy = requests.get("http://127.0.0.1:5010/get").text改为proxy = requests.get("http://127.0.0.1:5010/get").json().get("proxy")
怎样知道是否已经运行了? 我运行之后只显示RandomUserAgentMiddleware
, 但没有其他proxy信息。btw,已改为proxy = requests.get("http://127.0.0.1:5010/get").json().get("proxy")
设置一个中间件 DOWNLOADER_MIDDLEWARES = { 'Article.middlewares.RandomUserAgentMiddleware': 543, 'scrapy.contrib.downloadermiddleware.useragent.UserAgentMiddleware': None, }