溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

向spark集群提交消費kafka應用時kafka鑒權配置問題

發布時間:2020-05-30 14:55:12 來源:網絡 閱讀:2158 作者:zbzbzb022 欄目:大數據

提交消費kafka應用里面包含sasl.jaas.config,通常需要配置文件。但是打成jar包后的應用,通過classload讀不到jar包中配置文件。

需要初始化kafka時增加properties屬性。


kafkaParams.put("sasl.jaas.config", "xxxx required\n"+
                " accessKey=\"xxxx\"\n"+
                " securityKey=\"xxxxx\";");

換行,冒號,引號都不能少


注意kafka的依賴為:

    <dependency>
      <groupId>org.apache.kafka</groupId>
      <artifactId>kafka-clients</artifactId>
      <version>1.0.0</version>
     </dependency>


    同時要去掉spark-streaming-kafka中的kafka依賴


    <!-- 去掉kafka 0.10.0.1 的依賴-->
      <dependency>
          <groupId>org.apache.spark</groupId>
          <artifactId>spark-streaming-kafka-0-10_2.11</artifactId>
          <version>2.3.1</version>
          <exclusions>
          <exclusion>
           <groupId>org.apache.kafka</groupId>
           <artifactId>kafka-clients</artifactId>
          </exclusion>
          </exclusions>
      </dependency>

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女