Python多线程下载文件的方法

 更新时间:2015年07月10日 11:38:00   作者:speedmancs  
这篇文章主要介绍了Python多线程下载文件的方法,涉及Python多线程及文件操作的相关技巧,具有一定参考借鉴价值,需要的朋友可以参考下

本文实例讲述了Python多线程下载文件的方法。分享给大家供大家参考。具体实现方法如下:

import httplib
import urllib2
import time
from threading import Thread
from Queue import Queue
from time import sleep
proxy = 'your proxy';
opener = urllib2.build_opener( urllib2.ProxyHandler({'http':proxy}) )
urllib2.install_opener( opener )
ids = {};
for i in range(1,110):
 try:
  listUrl = "http://www.someweb.net/sort/list_8_%d.shtml" % (i);
  print listUrl;
  page = urllib2.urlopen(listUrl).read();
  speUrl = "http://www.someweb.net/soft/";
  speUrlLen = len(speUrl);
  idx = page.find(speUrl,0);
  while idx!=-1:
   dotIdx = page.find(".",idx + speUrlLen);
   if dotIdx != -1:
    id = page[idx + speUrlLen:dotIdx];
    ids[id] = 1;
   idx = page.find("http://www.someweb.net/soft/",idx + speUrlLen);
 except:
  pass;
q = Queue()
NUM = 5
failedId = [];
def do_somthing_using(id):
 try:
  url = "http://www.someweb.net/download.php?softid=%s&type=dx" % (id);
  h2 = httplib.HTTPConnection("your proxy", "you port");
  h2.request("HEAD", url);
  resp = h2.getresponse();
  header = resp.getheaders();
  location = header[3][1];  
  sContent = urllib2.urlopen(location).read();
  savePath = "C:\\someweb\\%s.rar" % (id);
  file=open(savePath,'wb');
  file.write(sContent);
  file.close(); 
  print savePath + " saved";
 except:
  pass;
def working():
 while True:
  arguments = q.get()
  do_somthing_using(arguments)
  sleep(1)
  q.task_done()
for i in range(NUM):
 t = Thread(target=working)
 t.setDaemon(True)
 t.start()
for id in ids:
 q.put(id)
q.join()

希望本文所述对大家的Python程序设计有所帮助。

相关文章

  • python实现根据窗口标题调用窗口的方法

    python实现根据窗口标题调用窗口的方法

    这篇文章主要介绍了python实现根据窗口标题调用窗口的方法,涉及Python操作窗口的技巧,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-03-03
  • Python爬虫实战之批量下载快手平台视频数据

    Python爬虫实战之批量下载快手平台视频数据

    读万卷书不如行万里路,学的扎不扎实要通过实战才能看出来,本篇文章手把手带你批量下载快手平台视频数据,大家可以在过程中查缺补漏,看看自己掌握程度怎么样
    2021-10-10
  • Python实现前端样式尺寸单位转换

    Python实现前端样式尺寸单位转换

    在 Web 前端项目开发时,样式尺寸都是以 rpx 为单位,可是 UI 设计师在看完开发后的 UI ,却要求都以 px 为单位,所以本文就和大家分享一个利用Python就能实现尺寸单位转换的方法吧
    2023-06-06
  • Python实现Linux命令xxd -i功能

    Python实现Linux命令xxd -i功能

    这篇文章主要介绍了Python实现Linux命令xxd -i功能的相关资料,需要的朋友可以参考下
    2016-03-03
  • 分享4个Python中高效省时的技巧

    分享4个Python中高效省时的技巧

    小伙伴们日常工作中都必不可少地使用Python实现一些简单的功能,但是不同的人所编写的代码执行效率往往是不同的,下面这篇文章主要给大家介绍了4个Python中高效的技巧,需要的朋友可以参考下
    2022-05-05
  • 跟老齐学Python之Import 模块

    跟老齐学Python之Import 模块

    本文主要讲解了基本的import模块方法,首先从模块的定义入手,接着讲诉如何自己编写模块,非常简单实用,有需要的朋友可以参考下
    2014-10-10
  • Python异常对代码运行性能的影响实例解析

    Python异常对代码运行性能的影响实例解析

    这篇文章主要介绍了Python异常对代码运行性能的影响实例解析,分享了相关代码示例,小编觉得还是挺不错的,具有一定借鉴价值,需要的朋友可以参考下
    2018-02-02
  • Python中常见的三种字符串格式化输出方法小结

    Python中常见的三种字符串格式化输出方法小结

    字符串格式化是编程中一个常见的需求,它可以们将不同类型的数据插入到字符串中,在 Python 中,有多种方法可以执行字符串格式化,本文为大家介绍了常见的三种方法,希望对大家有所帮助
    2024-02-02
  • pyinstaller使用大全

    pyinstaller使用大全

    这篇文章主要介绍了pyinstaller使用大全,pyinstaller可以方便地将脚本编译成exe,本文结合实例代码给大家详细讲解,需要的朋友可以参考下
    2023-02-02
  • python轻松实现代码编码格式转换

    python轻松实现代码编码格式转换

    由于某些原因,需要将代码从A机房迁移到B机房,这两个之间不能互相访问,但是历史原因导致A机房的代码全是utf8编码的,B机房要求是GBK编码,看看这个怎么解决。虽然很简单,但是还是要推荐给大家,需要的小伙伴参考下吧。
    2015-03-03

最新评论