亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

Scrapy Access Denied爬取網站頭部

Scrapy Access Denied爬取網站頭部

繁花如伊 2023-03-08 16:27:45
我想抓取一個網站,但出現下一個錯誤:'<head>\n<title>Access Denied</title>\n</head>'我只是在控制臺中嘗試:scrapy shell https://www.zara.com/es/en/ response.css("head").get()我做錯了什么?與User-Agent有關嗎?網站有沒有反爬的方法?怎樣才能抓取這個網站?
查看完整描述

1 回答

?
蕪湖不蕪

TA貢獻1796條經驗 獲得超7個贊

在 settings.py 中設置USER_AGENT = 'zara (+http://www.yourdomain.com)'。解決問題。如果您愿意,也可以放置自己的用戶代理。



查看完整回答
反對 回復 2023-03-08
  • 1 回答
  • 0 關注
  • 133 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號