shiyanhui / dht

BitTorrent DHT Protocol && DHT Spider.
http://bthub.io
MIT License
2.74k stars 487 forks source link

分布式 DHT 爬虫共享 Peers 和 BlockList #28

Open xgfone opened 7 years ago

xgfone commented 7 years ago

我想要实现一个分布式 DHT 爬虫,须要共享 Peers 和 BlockList,这样一来,当某个爬虫发现一个 Peer,或把某个 Node 放入 BlockList 时,其他爬虫也会立即知道。

如果 peersManagerblackList 两个 struct 能够自定义后端存储的话,上述需求就很容易实现。

如果能把 syncedMap 抽象成接口就好了!这样,用户就可以替换默认的 syncedMap 来实现共享式的 Peers 和 BlockList。

@shiyanhui 不知道有这方面的计划没?

xgfone commented 7 years ago

如果要把 syncedMap 实现成分布式的,就要考虑到 Map 键 和 值 的 序列化反序列化 问题。

如果键是 string,那么就不用考虑键的 序列化反序列化 了。