java通过url读取远程数据并保持到本地的实例代码

 更新时间:2018年07月03日 10:21:26   作者:狐狈筱筱生  
本文通过实例代码给大家介绍了java通过url读取远程数据并保持到本地的方法,本文给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下

前几天老姐突然告诉我,她在JD上买了本电子图书,如何买完发现,只能在线或者使用它自己的阅读器看,很不方便,让我给想想办法。

如何我就开始琢磨,最开始,我直接使用Acrobat Reader打开,发现只有目录,没有其他,而且页面上面的都存在,我想可能在正确的内容上增加了一块蒙版,只能用"钥匙"的人可以过滤它,要破解别人的编辑器,短时间肯定是不行的的,网上也有很多人想到的是使用自动化脚本去自动对官方阅读器截图,但是我发现,截图不是一页一页的,这就很懵逼了。最后只能通过在线阅读这条线来想办法。

这个办法和网友的类似,都是保存为图片,如何通过pdf工具制作成pdf。

在线阅读惊奇发现,文档真好,一页一张图片,它已经给你做好,只是每次只更新出当前页的前后几张,其他的会被清除。到这里,思路就有了:

  1. 跳转到第n页
  2. 拉取刷新出来的额图片路径
  3. 保存图片路径到缓存(我使用的是redis)
  4. 通过网络工具类,将缓存中的图片地址全部下载到本地本次为图片
  5. 将图片通过pdf工作转为pdf

第1步到第3步需要重复,可以使用自动工具和脚本来实现。

第4步写个控制器就可以了,最简单的java接口就行。

第5步直接网上在线服务就可以实现。

为什么需要先缓存在下载咧,这里涉及到一个效率与图片去重和过滤的问题,因为每次调整后获取的图片可能有重复的,存在redis的map中,自动就去重了;也是为了避免一边获取图片路径,一边下载中途异常退出等任务不能正常执行完毕等问题。然后脚本获取路径,后保存到自己的服务器,唯一的问题可能就是跨域的问题。结果发现还是少了几张图,这样就体会出使用缓存的好处了,可以直接通过代码验证少了那几张图,不用去检查jpg文件,少的文件个位数,最后通过手动补全了。

通过这种方式得到的图片,唯一缺陷就是带有"JD读书"字样和图片分辨率不是很高,字体好像带点毛脚。有强迫症或者追求高品质的,就使用官方阅读器吧,个人看了蛮清晰的,是文档,不是图片!!!

下面附上java通过URL获取网络数据保存到本地的代码。

public class HttpURLConnectionUtil {
// 通过get请求得到读取器响应数据的数据流
public static InputStream getInputStreamByGet(String url) {
  try {
    HttpURLConnection conn = (HttpURLConnection) new URL(url)
        .openConnection();
    conn.setReadTimeout(5000);
    conn.setConnectTimeout(5000);
    conn.setRequestMethod("GET");
    if (conn.getResponseCode() == HttpURLConnection.HTTP_OK) {
      InputStream inputStream = conn.getInputStream();
      return inputStream;
    }
  } catch (IOException e) {
    e.printStackTrace();
  }
  return null;
}
// 将服务器响应的数据流存到本地文件
public static void saveData(InputStream is, File file) {
  try (BufferedInputStream bis = new BufferedInputStream(is);
     BufferedOutputStream bos = new BufferedOutputStream(
         new FileOutputStream(file));) {
    byte[] buffer = new byte[1024];
    int len = -1;
    while ((len = bis.read(buffer)) != -1) {
      bos.write(buffer, 0, len);
      bos.flush();
    }
  } catch (IOException e) {
    e.printStackTrace();
  }
}
}

调用:

Set<String> imgNumber = (Set<String>) redisTemplate.opsForHash().keys(MAP_KEY);
imgNumber.stream().forEach(e->{
        String url = (String) redisTemplate.opsForHash().get(MAP_KEY,e);
        String fileName = e+".jpg";
        File file = new File("E:\\pdf图片\\", fileName);

        InputStream inputStream = HttpURLConnectionUtil
            .getInputStreamByGet(url);
        HttpURLConnectionUtil.saveData(inputStream, file);
});

总结

以上所述是小编给大家介绍的java通过url读取远程数据并保持到本地的实例代码,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持!

相关文章

  • SpringBoot FreeWorker模板技术解析

    SpringBoot FreeWorker模板技术解析

    这篇文章主要介绍了SpringBoot FreeWorker模板技术解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-11-11
  • Java超全面梳理内部类的使用

    Java超全面梳理内部类的使用

    说起内部类这个词,想必很多人都不陌生,但是又会觉得不熟悉。原因是平时编写代码时可能用到的场景不多,用得最多的是在有事件监听的情况下,并且即使用到也很少去总结内部类的用法。今天我们就来一探究竟
    2022-04-04
  • JDBC以反射机制加载类注册驱动连接MySQL

    JDBC以反射机制加载类注册驱动连接MySQL

    这篇文章介绍了JDBC以反射机制加载类注册驱动连接MySQL的方法,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-01-01
  • Spring Boot + thymeleaf 实现文件上传下载功能

    Spring Boot + thymeleaf 实现文件上传下载功能

    最近同事问我有没有有关于技术的电子书,我打开电脑上的小书库,但是邮件发给他太大了,公司又禁止用文件夹共享,于是花半天时间写了个小的文件上传程序,部署在自己的Linux机器上,需要的朋友可以参考下
    2018-01-01
  • 带你玩转Kafka之初步使用

    带你玩转Kafka之初步使用

    最近开发的项目中,kafka用的比较多,为了方便梳理,所以记录一些关于kafka的文章,这篇文章主要给大家介绍了关于Kafka初步使用的相关资料,需要的朋友可以参考下
    2021-11-11
  • java实现电脑定时关机的方法

    java实现电脑定时关机的方法

    这篇文章主要介绍了java实现电脑定时关机的方法,首先通过java注册windows服务程序,再以一个简单的java程序实现定时关机的功能,非常具有实用价值,需要的朋友可以参考下
    2014-11-11
  • Spring Boot  Excel文件导出下载实现代码

    Spring Boot Excel文件导出下载实现代码

    这篇文章带领我们直接实现Excel文件的直接导出下载,后续开发不需要开发很多代码,直接继承已经写好的代码,增加一个Xml配置就可以直接导出。具体实现代码大家跟随小编一起通过本文学习吧
    2018-11-11
  • SpringBoot+Spring Security+JWT实现RESTful Api权限控制的方法

    SpringBoot+Spring Security+JWT实现RESTful Api权限控制的方法

    这篇文章主要介绍了SpringBoot+Spring Security+JWT实现RESTful Api权限控制的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-03-03
  • 教你使用IDEA搭建spring源码阅读环境的详细步骤

    教你使用IDEA搭建spring源码阅读环境的详细步骤

    这篇文章主要介绍了使用IDEA搭建spring源码阅读环境的详细步骤,本文分两步通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧
    2021-08-08
  • 约定优于配置_动力节点Java学院整理

    约定优于配置_动力节点Java学院整理

    以前做项目,总是写Ant配置文件,满足于自己更灵活的配置,而没有去思考,这么做到底值不值得
    2017-08-08

最新评论