亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

我自己開發的框架里面 如何多個爬蟲并行?

我自己開發的框架里面 如何多個爬蟲并行?

牧羊人nacy 2018-09-02 11:25:04
比如我自己寫的有A B C 三個爬蟲 如何三個爬蟲并行?是一個函數里面三個爬蟲執行嗎?通過多線程調用這個函數?
查看完整描述

1 回答

?
烙印99

TA貢獻1829條經驗 獲得超13個贊

使用多線程方式調用你的爬蟲啟動函數, 不過首先你要保證你的爬蟲是線程安全的。
最簡單的基本寫法如下:

import thread# 你的爬蟲函數def crawler(param1, param2, param3):
    pass# 啟動兩個線程調用爬蟲函數并傳參try:
    thread.start_new_thread(crawler, (arg1, arg2, arg3))
    thread.start_new_thread(crawler, (_arg1, _arg2, _arg3))except:
    print("something wrong")


查看完整回答
反對 回復 2018-09-02
  • 1 回答
  • 0 關注
  • 794 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號