xlturing / spark-streaming-action

The code of book: Spark Streaming Action
49 stars 37 forks source link

KafkaCluster.scala提示 kafka.cluster.BrokerEndPoint cannot be cast to kafka.cluster.Broker #5

Closed mapxn closed 3 years ago

mapxn commented 5 years ago

您好: 我的操作环境是

Process finished with exit code 1

xlturing commented 5 years ago

现在调好了吗?

  1. 是指这个jar包spark-streaming-kafka-0-8的版本吧? 因为我们用了direct的方式,Receiver的方式里是自动保存offset的,这里想在direct方式里也类似Receiver的方式来保存offset,不用再自己单独做一套;
  2. Mysql或Redis存也是完全可以的,将offset读取和存入那里改下就好; 书里是采用了存取ZooKeeper的方式,主要在老版本中offset是不用自己关注的,所以当时利用这种方式还原下老版本的ZooKeeper保存offset;
xlturing commented 5 years ago

关于kafka的offset问题,在书籍出版后,spark最新版本也做了更新,可以参考下: https://spark.apache.org/docs/latest/streaming-kafka-0-10-integration.html