python中requests爬去网页内容出现乱码问题解决方法介绍

 更新时间:2017年10月25日 15:10:36   作者:Winterto1990  
这篇文章主要介绍了python中requests爬去网页内容出现乱码问题解决方法,

最近在学习python爬虫,使用requests的时候遇到了不少的问题,比如说在requests中如何使用cookies进行登录验证,这可以查看这篇文章。这篇博客要解决的问题是如何避免在使用requests的时候出现乱码。

import requests  
res=requests.get("https://www.baidu.com")  
print res.content

以上就是使用requests进行简单的网页请求数据的方式。但是很容易出现乱码的问题。

我们可以通过在网页上右击查看源代码中查看编码方式:content="text/html;charset=utf-8"->

我们便可以知道网页的编码方式是utf8.由于中文的编码方式为gbk,所以我们需要将编码方式改变为gbk。

我查看了一些资料,说requests可以自动获取网页的编码方式的,并且通过res.encode输出一看是utf8,是的 没错。但是输出来的内容中文存在乱码。 有说可以直接指定获取到内容的encode属性即可,"res.encode='gbk'",但我尝试了不可以的。

python内部的编码方式为utf8,也就是说python在处理其他字符串内容的时候首先要先将内容转化为utf8的编码方式,然后在解码为你想要的编码方式输出。

例如s=”中文” 为str类型的字符串 编码方式为gb2312

需要 s.decode("gb2312")将gb2312编码方式的内容解码为Unicode编码

然后输出的时候要将s的编码方式规定为gbk->s.encode("gbk")

言归正传,我们获取到网页内容res后, 通过res.content.decode("utf8","ignore").encode("gbk","ignore")就不会有乱码了。

这里所使用的ignore属性意思是忽略其中有一场的编码,仅显示有效的编码。

总结

以上就是本文关于python中requests爬去网页内容出现乱码问题解决方法的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:python编程之requests在网络请求中添加cookies参数方法详解Python_LDA实现方法详解等,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!

相关文章

  • Python中Word文件自动化操作小结

    Python中Word文件自动化操作小结

    Python-docx是一个Python库,提供了对Microsoft Word(.docx文件)的读写和修改功能,本文主要介绍了如何使用Python-docx实现Word文件自动化操作,需要的可以参考下
    2024-04-04
  • python开发之tkinter实现图形随鼠标移动的方法

    python开发之tkinter实现图形随鼠标移动的方法

    这篇文章主要介绍了python开发之tkinter实现图形随鼠标移动的方法,涉及Python基于tkinter绘图的相关实现技巧,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-11-11
  • pip安装tensorflow的坑的解决

    pip安装tensorflow的坑的解决

    这篇文章主要介绍了pip安装tensorflow的坑的解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-04-04
  • 实例讲解Python爬取网页数据

    实例讲解Python爬取网页数据

    这篇文章给大家通过实例讲解了Python爬取网页数据的步骤以及操作过程,有兴趣的朋友跟着学习下吧。
    2018-07-07
  • python中map的基本用法示例

    python中map的基本用法示例

    map函数的原型是map(function, iterable, …),它的返回结果是一个列表。下面这篇文章主要给大家介绍了关于python中map的基本用法,文中通过示例代码介绍的非常详细,需要的朋友可以参考下
    2018-09-09
  • Python OpenCV快速入门教程

    Python OpenCV快速入门教程

    这篇文章主要介绍了Python OpenCV快速入门教程,帮助大家更好的利用opencv处理图像,感兴趣的朋友可以了解下
    2021-04-04
  • Python实现ping指定IP的示例

    Python实现ping指定IP的示例

    今天小编就为大家分享一篇Python实现ping指定IP的示例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-06-06
  • 删除DataFrame中值全为NaN或者包含有NaN的列或行方法

    删除DataFrame中值全为NaN或者包含有NaN的列或行方法

    今天小编就为大家分享一篇删除DataFrame中值全为NaN或者包含有NaN的列或行方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-11-11
  • python random从集合中随机选择元素的方法

    python random从集合中随机选择元素的方法

    今天小编就为大家分享一篇python random从集合中随机选择元素的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-01-01
  • Python爬虫实战之爬取携程评论

    Python爬虫实战之爬取携程评论

    今天带大家爬取携程评论练练手,文中有非常详细的代码示例,对正在学习python的小伙伴们很有帮助,需要的朋友可以参考下
    2021-06-06

最新评论