Python3.4编程实现简单抓取爬虫功能示例

 更新时间:2017年09月14日 09:13:48   作者:macwhirr123  
这篇文章主要介绍了Python3.4编程实现简单抓取爬虫功能,涉及Python3.4网页抓取及正则解析相关操作技巧,需要的朋友可以参考下

本文实例讲述了Python3.4编程实现简单抓取爬虫功能。分享给大家供大家参考,具体如下:

import urllib.request
import urllib.parse
import re
import urllib.request,urllib.parse,http.cookiejar
import time
def getHtml(url):
  cj=http.cookiejar.CookieJar()
  opener=urllib.request.build_opener(urllib.request.HTTPCookieProcessor(cj))
  opener.addheaders=[('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.101 Safari/537.36'),('Cookie','4564564564564564565646540')]
  urllib.request.install_opener(opener)
  page = urllib.request.urlopen(url)
  html = page.read()
  return html
#print ( html)
#html = getHtml("http://weibo.com/")
def getimg(html):
  html = html.decode('utf-8')
  reg='"screen_name":"(.*?)"'
  imgre = re.compile(reg)
  src=re.findall(imgre,html)
  return src
#print ("",getimg(html))
uid=['2808675432','3888405676','2628551531','2808587400']
for a in list(uid):
  print (getimg(getHtml("http://weibo.com/"+a)))
  time.sleep(1)

更多关于Python相关内容可查看本站专题:《Python Socket编程技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总

希望本文所述对大家Python程序设计有所帮助。

相关文章

  • 基于MSELoss()与CrossEntropyLoss()的区别详解

    基于MSELoss()与CrossEntropyLoss()的区别详解

    今天小编就为大家分享一篇基于MSELoss()与CrossEntropyLoss()的区别详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-01-01
  • Python的进程,线程和协程实例详解

    Python的进程,线程和协程实例详解

    这篇文章主要为大家详细介绍了Python进程,线程和协程,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2022-03-03
  • Python图像处理之Hough变换检测直线

    Python图像处理之Hough变换检测直线

    霍夫变换是一种特征检测(feature extraction),被广泛应用在图像分析,本文将利用Hough变换实现直线检测,感兴趣的小伙伴可以了解一下
    2023-07-07
  • Python3非对称加密算法RSA实例详解

    Python3非对称加密算法RSA实例详解

    这篇文章主要介绍了Python3非对称加密算法RSA,结合实例形式分析了Python3 RSA加密相关模块安装及使用操作技巧,需要的朋友可以参考下
    2018-12-12
  • Django中create和save方法的不同

    Django中create和save方法的不同

    这篇文章主要给大家介绍了关于Django中create和save方法的不同之处,文中通过示例代码介绍的非常详细,对大家学习或者使用Django具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2019-08-08
  • Python转换HTML到Text纯文本的方法

    Python转换HTML到Text纯文本的方法

    这篇文章主要介绍了Python转换HTML到Text纯文本的方法,分析了常用的两种方法,非常具有实用价值,需要的朋友可以参考下
    2015-01-01
  • python如何将.tif格式图批量转化为.jpg格式图

    python如何将.tif格式图批量转化为.jpg格式图

    这篇文章主要介绍了python如何将.tif格式图批量转化为.jpg格式图问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2024-06-06
  • Python中进度条tqdm包使用方法及特性介绍

    Python中进度条tqdm包使用方法及特性介绍

    这篇文章主要介绍了Python中进度条tqdm包使用方法及特性,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-08-08
  • 使用OpenCV实现人脸图像卡通化的示例代码

    使用OpenCV实现人脸图像卡通化的示例代码

    这篇文章主要介绍了使用OpenCV实现人脸图像卡通化的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-01-01
  • python解析xml文件方式(解析、更新、写入)

    python解析xml文件方式(解析、更新、写入)

    这篇文章主要介绍了python解析xml文件方式(解析、更新、写入),具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-03-03

最新评论