亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

java 爬蟲多線程讀取同一個集合

java 爬蟲多線程讀取同一個集合

aluckdog 2018-10-05 14:23:34
自己打算用java寫個多線程的爬蟲,結果在存儲爬取得到數據的時候遇到了難點我是打算把采集到的網頁放在mysql數據中,然后問題來了假設我開啟了50個線程,然后爬取得到的每一個網頁存儲到一個對象,然后把對象放入集合當中,之后當對象里面的容量滿到1000就寫入一次數據庫。但是感覺這樣會有點問題但是多個線程同時操作一個集合,怎么保證安全呢,不會出錯嗎或者大神們提供一點更好的思路,初學java,講的詳細點吧
查看完整描述

2 回答

?
慕田峪4524236

TA貢獻1875條經驗 獲得超5個贊

用Collections.synchronizedSet把你的集合變成線程安全的

查看完整回答
反對 回復 2018-10-14
?
守著星空守著你

TA貢獻1799條經驗 獲得超8個贊

樓上正解,或者把集合讀寫代碼放在synchronized代碼塊里

...

synchronized (set) {

  set.add(page);

}

...

synchronized (set) {

  insertToDb(set);

  set.clear();

}

...


查看完整回答
反對 回復 2018-10-14
  • 2 回答
  • 0 關注
  • 1140 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號