技术文章 > Python爬虫 >  爬虫进阶 > 正文

Python爬虫如何UA伪装爬取?

宋雪维

在使用python爬取网站信息时,查看爬取完后的数据发现,数据并没有被爬取下来,这是因为网站中有UA这种请求载体的身份标识,如果不是基于某一款浏览器爬取则是不正常的请求,所以会爬取失败。本文介绍Python爬虫采用UA伪装爬取实例。

一、python爬取失败原因如下:

UA检测是门户网站的服务器会检测对应请求的载体身份标识,如果检测到请求的载体身份标识为某一款浏览器,说明该请求是一个正常的请求。如果检测到请求的载体身份标识不是基于某一款浏览器的。则表示该请求为不正常的请求,则服务器端就很有可能会拒绝该次请求。

二、解决方法:采用UA伪装

让爬虫对应的请求载体身份标识伪装成某一款浏览器,这里采用的伪装成Chrome浏览器。

采用UA伪装爬取实例

import requests

if __name__=="__main__":
    headers={
        "User-Agent":"Mozilla/5.0(Windows NT 10.0;Win64;x64) AppleWebKit / 537.36(KHTML, likeGecko) 
        Chrome / 88.0.4324.150 Safari / 537.36"
    }
    url="https://www.sogou.com/web"
    queryword=input("输出关键字")
    param={
        "query":queryword
    }
    res=requests.get(url=url,params=param,headers=headers)
    res.encoding="utf-8"
    page_text=res.text
    fileName=queryword+".html"
    with open(fileName,"w",encoding="utf-8") as fs:
        fs.write(page_text)
    print(page_text+"爬取结束")

添加伪装的请求头后再次进行爬虫请求,成功得到爬取到的html文件。

以上就是Python爬虫采用UA伪装爬取实例,大家可以尝试看看哦~更多python爬虫进阶推荐:python爬虫进阶教程

免费视频教程
本教程部分素材来源于网络,版权问题联系站长!
相关文章
  python中计算矩阵特征向量的方法
  python中最小二乘法如何理解?
  python中如何使用scipy.fftpack模块计算快速傅里叶变换?
  python中numpy.fft如何使用?
  python中如何使用scipy.stats产生随机数?
  python的scipy.stats模块中正态分布常用函数有哪些?
  python爬虫使用scrapy框架处理多页数据的方法
  python爬虫实战之反爬2021猫眼票房字体加密
相关视频章节
  《Python程序设计》课程导论
  Python语言简介
  python初认识
  Python应用领域
  五分钟装好Python解释器
  Python的代码缩进规范
视频教程分类