亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

如何檢查我使用 Java 在 Spark-structured-streaming 中從 Kafka

如何檢查我使用 Java 在 Spark-structured-streaming 中從 Kafka

森林海 2023-03-17 17:08:29
我正在嘗試從 kafka 獲取數據到 spark-structured-streaming,但我無法檢查我是否做得很好。我想在控制臺上打印來自 kafka 的數據,但控制臺上什么也沒有。可能是因為來自卡夫卡的數據量很大,但我不知道。我正在使用 Windows 10。我檢查了 kafka 的端口是由“netstat -an | findstr TARGET_IP”建立的。TARGET_IP 表示kafka生產者的IP。根據以上結果的 PID,我檢查了“任務列表/FI“PID eq 5406””。5406是java.exe的PID,PID 5406占用的內存在不斷增加。public static void main( String[] args ) {    SparkSession spark = SparkSession.builder()            .master("local")            .appName("App").getOrCreate();    Dataset<Row> df = spark            .readStream()            .format("kafka")            .option("kafka.bootstrap.servers", "TARGET_IP:TARGET_PORT")            .option("subscribe", "TARGET_TOPIC")            .option("startingOffsets", "earliest")            .load();    df.printSchema();    StreamingQuery queryone = df.writeStream().trigger(Trigger.ProcessingTime(1000)).format("console").start();    try {        queryone.awaitTermination();    } catch (StreamingQueryException e) {        e.printStackTrace();    }}
查看完整描述

1 回答

?
德瑪西亞99

TA貢獻1770條經驗 獲得超3個贊

我測試了你的代碼,它可以打印。

首先,您應該檢查您的kafka 主題,確保其中有消息。

然后檢查你的 spark 應用程序,確保它可以連接你的 kafka 代理。


查看完整回答
反對 回復 2023-03-17
  • 1 回答
  • 0 關注
  • 123 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號