4.云服务器配置调度
前3步都完成后 进行最后一步服务器配置调度 激动人心!
配置文件scrapy.cfg
切换到命令行模型 切到相应文件目录scrapyd-deploy AliCloud -p 爬虫项目名
记得安全组开放6800端口
就可以在网页看到爬虫已上传成功
运行调度爬虫curl命令
可在网页Jobs中查看到相应日志 和本地控制台输出的log一模一样
curl http://XXX.XXX.XXX.XXX:6800/schedule.json -d project=爬虫项目名-d spider=爬虫Spider名
win下没有curl命令 详细见百度经验Windows下安装使用curl命令
最后一步 就是定时调度crontab
具体怎么用 还是自行百度
xshell连接服务器 输入如下样式命令crontab -e
保存:wq
退出
这里的意思是每天2点、11点、20点各执行一次
然后就可以喝着快乐肥宅水 享受云端自动调度的快感
作者:丨像我这样的人丨
链接:https://www.jianshu.com/p/d51163f71318
點擊查看更多內容
為 TA 點贊
評論
評論
共同學習,寫下你的評論
評論加載中...
作者其他優質文章
正在加載中
感謝您的支持,我會繼續努力的~
掃碼打賞,你說多少就多少
贊賞金額會直接到老師賬戶
支付方式
打開微信掃一掃,即可進行掃碼打賞哦