Python urllib.request对象案例解析
刚刚接触爬虫,基础的东西得时时回顾才行,这么全面的帖子无论如何也得厚着脸皮转过来啊!
什么是 Urllib 库?
urllib 库 是 Python 内置的 HTTP 请求库。urllib 模块提供的上层接口,使访问 www 和 ftp 上的数据就像访问本地文件一样。
有以下几种模块:
1.urllib.request 请求模块
2. urllib.error 异常处理模块
3. urllib.parse url 解析模块
4. urllib.robotparser robots.txt 解析模块
Urllib 库下的几种模块基本使用如下:
urllib.request
关于 urllib.request: urllib.request 模块提供了最基本的构造 HTTP (或其他协议如 FTP)请求的方法,利用它可以模拟浏览器的一个请求发起过程。利用不同的协议去获取 URL 信息。它的某些接口能够处理基础认证 ( Basic Authenticaton) 、redirections (HTTP 重定向)、 Cookies (浏览器 Cookies)等情况。而这些接口是由 handlers 和 openers 对象提供的。
1.常用的方法有
- read()==读取文件内容
- geturl()==获取请求url
- getheaders()==获取http请求头信息
- getcode()==获取状态码
- readlines()==获取一行
2.案例
#coding=utf-8 #import urllib.request #=========response方法使用 #read()==读取文件内容 #geturl()==获取请求url #getheaders()==获取http请求头信息 #getcode()==获取状态码 #readlines()==获取一行 #url="http://www.baidu.com"; #response = urllib.request.urlopen(url); #=====案例1 # str = response.read().decode();#这样通过decode转换为utf8 # with open("baidu.html","w",encoding="utf8") as fp: # fp.write(str); #=====案例2通过字节流写=默认通过read读取的是字节流 # with open("bai.html","wb") as fp: # fp.write(response.read()); #==使用字节流读取存图片 # image_url='https://ss3.bdstatic.com/70cFv8Sh_Q1YnxGkpoWK1HF6hhy/it/u=3772530225,1800402028&fm=26&gp=0.jpg'; # response = urllib.request.urlopen(image_url); # with open("mv.jpg",'wb') as fp: # fp.write(response.read()); #案例3==使用内置函数读取图片 #image_url='https://ss3.bdstatic.com/70cFv8Sh_Q1YnxGkpoWK1HF6hhy/it/u=3772530225,1800402028&fm=26&gp=0.jpg'; #urllib.request.urlretrieve(image_url,"chun.jpg");
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。
- python urllib.request模块的使用详解
- python 如何用urllib与服务端交互(发送和接收数据)
- python urllib和urllib3知识点总结
- python爬虫基础之urllib的使用
- Python urllib request模块发送请求实现过程解析
- Python urllib3软件包的使用说明
- Python urllib库如何添加headers过程解析
- 详解python内置模块urllib
- python3 中使用urllib问题以及urllib详解
- Python urllib2运行过程原理解析
- python中urllib.request和requests的使用及区别详解
- python urllib库的使用详解
相关文章
python selenium 获取标签的属性值、内容、状态方法
今天小编就为大家分享一篇python selenium 获取标签的属性值、内容、状态方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧2018-06-06matplotlib 生成的图像中无法显示中文字符的解决方法
这篇文章主要介绍了matplotlib 生成的图像中无法显示中文字符的解决方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧2020-06-06python导入csv文件出现SyntaxError问题分析
这篇文章主要介绍了python导入csv文件出现SyntaxError问题分析,同时涉及python导入csv文件的三种方法,具有一定借鉴价值,需要的朋友可以参考下。2017-12-12
最新评论