課程
/后端開發
/Go
/搭建并行處理管道,感受GO語言魅力
有一點沒有想明白,從程序的結構來看是將800M的數據都讀到內存里才進行的排序,如果數據再大呢?會不會因為數據量大的原因導致程序崩潰呢,還是我有什么理解不對的地方,請老師解惑。
2019-11-07
源自:搭建并行處理管道,感受GO語言魅力 3-6
正在回答
如果你單機跑整個程序(你的機器內存8G,但你需要派排序的文件8.5G)這樣子會導致程序因為內存空間不足導致panic,因此通過分片(分塊)的方法,將大文件分子別在不同的機器上面進行處理,最終再由一個機器分別匯總結果并輸出到文件。
舉報
通過搭建并行數據處理管道,展示go語言在并發編程方面的優勢
1 回答small.out 文件大小的問題
2 回答關于排序時間
1 回答buffer的大小
1 回答完全外部排序
1 回答createPipeline 的文件打開問題
Copyright ? 2025 imooc.com All Rights Reserved | 京ICP備12003892號-11 京公網安備11010802030151號
購課補貼聯系客服咨詢優惠詳情
慕課網APP您的移動學習伙伴
掃描二維碼關注慕課網微信公眾號
2020-01-20
如果你單機跑整個程序(你的機器內存8G,但你需要派排序的文件8.5G)這樣子會導致程序因為內存空間不足導致panic,因此通過分片(分塊)的方法,將大文件分子別在不同的機器上面進行處理,最終再由一個機器分別匯總結果并輸出到文件。