Open xgfone opened 7 years ago
我想要实现一个分布式 DHT 爬虫,须要共享 Peers 和 BlockList,这样一来,当某个爬虫发现一个 Peer,或把某个 Node 放入 BlockList 时,其他爬虫也会立即知道。
如果 peersManager 和 blackList 两个 struct 能够自定义后端存储的话,上述需求就很容易实现。
peersManager
blackList
如果能把 syncedMap 抽象成接口就好了!这样,用户就可以替换默认的 syncedMap 来实现共享式的 Peers 和 BlockList。
syncedMap
@shiyanhui 不知道有这方面的计划没?
如果要把 syncedMap 实现成分布式的,就要考虑到 Map 键 和 值 的 序列化 和 反序列化 问题。
序列化
反序列化
如果键是 string,那么就不用考虑键的 序列化 和 反序列化 了。
string
我想要实现一个分布式 DHT 爬虫,须要共享 Peers 和 BlockList,这样一来,当某个爬虫发现一个 Peer,或把某个 Node 放入 BlockList 时,其他爬虫也会立即知道。
如果
peersManager
和blackList
两个 struct 能够自定义后端存储的话,上述需求就很容易实现。如果能把
syncedMap
抽象成接口就好了!这样,用户就可以替换默认的syncedMap
来实现共享式的 Peers 和 BlockList。@shiyanhui 不知道有这方面的计划没?