亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

Apache Flink - 無法為 FlinkKinesisConsumer 使用本地

Apache Flink - 無法為 FlinkKinesisConsumer 使用本地

慕萊塢森 2023-03-09 10:35:30
到目前為止,我已經按照為 Flink 的運動連接器記錄的說明使用本地運動。使用非 AWS Kinesis 終端節點進行測試Properties producerConfig = new Properties();producerConfig.put(AWSConfigConstants.AWS_REGION, "us-east-1");producerConfig.put(AWSConfigConstants.AWS_ACCESS_KEY_ID, "aws_access_key_id");producerConfig.put(AWSConfigConstants.AWS_SECRET_ACCESS_KEY, "aws_secret_access_key");producerConfig.put(AWSConfigConstants.AWS_ENDPOINT, "http://localhost:4567");對于 Flink 生產者,這些指令適用于本地運動(我使用 Kinesalite)。但是,對于 Flink 消費者,我得到一個例外,aws.region并且aws.endpoint不允許兩者都被允許。但是區域是必需的,這意味著它不可能覆蓋端點。org.apache.flink.client.program.ProgramInvocationException:主要方法導致錯誤:對于 FlinkKinesisConsumer,必須在配置中設置 AWS 區域('aws.region')或 AWS 端點('aws.endpoint')。這是連接器中的錯誤嗎?我看到一個相關的 PR: https: //github.com/apache/flink/pull/6045。我在 Flink 的郵件列表上找到了一個解決方法,但他們將此描述為生產者而非消費者的問題,而我看到相反的情況(我認為),所以對此不確定。這真的很混亂。
查看完整描述

2 回答

?
拉丁的傳說

TA貢獻1789條經驗 獲得超8個贊

自提出這個問題以來,已經取得了一些進展。

提問者在這個 jira中推送了這個問題,這個 jira 被標記為第二個 jira的副本。

該問題現在應該已解決,并且該修復程序適用于 1.10 及更高版本。


查看完整回答
反對 回復 2023-03-09
?
一只甜甜圈

TA貢獻1836條經驗 獲得超5個贊

XOR該問題與驗證檢查中的條件有關。如您所見,該validateConsumerConfiguration方法在 if 語句中執行 XOR 驗證。因此,您只能指定選中的兩個參數之一。 http://img1.sycdn.imooc.com//640946310001e49b08700125.jpg

要設置自定義 URL,您需要刪除AWSConfigConstants.AWS_REGION屬性并僅使用鏈接。


// Set the given URL

consumerConfig.put(AWSConfigConstants.AWS_ENDPOINT, URL);

// Remove the region

consumerConfig.remove(AWSConfigConstants.AWS_REGION);

此解決方案,修復了與以下 StackTrace 相關的錯誤:


java.lang.IllegalArgumentException: For FlinkKinesisConsumer either AWS region ('aws.region') or AWS endpoint ('aws.endpoint') must be set in the config.


at org.apache.flink.streaming.connectors.kinesis.util.KinesisConfigUtil.validateConsumerConfiguration(KinesisConfigUtil.java:92)



查看完整回答
反對 回復 2023-03-09
  • 2 回答
  • 0 關注
  • 134 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號