当前位置: 代码迷 >> 综合 >> scrapy setting.py文件
  详细解决方案

scrapy setting.py文件

热度:44   发布时间:2023-12-16 13:24:50.0
为了防止网站不让我们获取数据,我们最好还是能够加上下面这句,这样就能基本伪装成为是浏览器打开网页获取数据了

?
1
USER_AGENT = 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/29.0.1547.66 Safari/537.36'
  相关解决方案