NaiboWang / EasySpider

A visual no-code/code-free web crawler/spider易采集:一个可视化浏览器自动化测试/数据采集/爬虫软件,可以无代码图形化的设计和执行爬虫任务。别名:ServiceWrapper面向Web应用的智能化服务封装系统。
https://www.easyspider.net
Other
34.71k stars 4.25k forks source link

429 Too Many Requests #382

Closed kmafly closed 4 months ago

kmafly commented 4 months ago

打开网页, 对方网址直接报错,返回错误信息:429. 请问如何处理,是否可以增加参数,控制请求次数.

访问的地址如下: https://www.realestate.com.au/buy/in-forest+lake,+qld+4078%3b/list-1

抓包,返回的信息为: 429 Too Many Requests

Jerryzhao83 commented 4 months ago

这个返回信息是对方限制访问了吧。

Seach “429 Too Many Requests” ,as key words。

https://developer.mozilla.org/en-US/docs/Web/HTTP/Status/429

kmafly commented 4 months ago

我查了资料,估计是对方网站做了反爬处理。 用seleium 的 webDriver 模拟浏览器访问,也是一样的问题。 确认对方做了反爬特征码处理。

还有其他办法爬取资料吗?

On Mon, 27 May 2024 at 15:02, JerryChao @.***> wrote:

这个信息是对方限制访问了吧。

Seach “429 Too Many Requests” ,as key words。

https://developer.mozilla.org/en-US/docs/Web/HTTP/Status/429

— Reply to this email directly, view it on GitHub https://github.com/NaiboWang/EasySpider/issues/382#issuecomment-2132646944, or unsubscribe https://github.com/notifications/unsubscribe-auth/AAMXXEX7XRJJ5HVUPPT3N6LZEK46JAVCNFSM6AAAAABHXULOESVHI2DSMVQWIX3LMV43OSLTON2WKQ3PNVWWK3TUHMZDCMZSGY2DMOJUGQ . You are receiving this because you authored the thread.Message ID: @.***>

NaiboWang commented 4 months ago

换RPA类软件吧,比如影刀RPA,我这个软件的底层目前是Selenium,只能做到Selenium能做到的事情。

将来有计划更换底层到如playwrite之类的平台,也欢迎大家探索更好用的底层框架提供给EasySpider。