lixi5338619 / asyncpy

使用asyncio和aiohttp开发的轻量级异步协程web爬虫框架
106 stars 27 forks source link

是否有使用redis的计划? #5

Open triangle959 opened 2 years ago

triangle959 commented 2 years ago

我试过这个框架,单机上确实不错,但是其他爬虫框架可以支持分布式。 我看了调度方法_process_async_callback也只是根据回调进行,是否有计划在这之前把任务放到redis中,这样可以方便分布式的运行爬虫。

lixi5338619 commented 2 years ago

感谢您的建议,起初设计时是以单机实现最大性能为目的。 后续可以添加分布式调度,谢谢关注!