怎樣給Spark傳遞函數
怎樣給Spark傳遞函數?
慕田峪7331174
2018-11-13 15:11:23
TA貢獻1893條經驗 獲得超10個贊
大講臺 spark在線培訓為你解答:
第一種:匿名函數,處理的代碼比較少的時候,可以采用匿名函數,直接寫在算子里面:
myrdd.map(x => x+ 1)
第二種:全局單例對象中的靜態方法:先定義object對象MyFunctions,以及靜態方法:funcOne,然后傳遞MyFunctions.funcOne給RDD算子。
object MyFunctions {
def funcOne(s: String): String = { ... }
}
myRdd.map(MyFunctions.funcOne)
舉報