java通过url读取远程数据并保持到本地的实例代码

前几天老姐突然告诉我，她在JD上买了本电子图书，如何买完发现，只能在线或者使用它自己的阅读器看，很不方便，让我给想想办法。

如何我就开始琢磨，最开始，我直接使用Acrobat Reader打开，发现只有目录，没有其他，而且页面上面的都存在，我想可能在正确的内容上增加了一块蒙版，只能用"钥匙"的人可以过滤它，要破解别人的编辑器，短时间肯定是不行的的，网上也有很多人想到的是使用自动化脚本去自动对官方阅读器截图，但是我发现，截图不是一页一页的，这就很懵逼了。最后只能通过在线阅读这条线来想办法。

这个办法和网友的类似，都是保存为图片，如何通过pdf工具制作成pdf。

在线阅读惊奇发现，文档真好，一页一张图片，它已经给你做好，只是每次只更新出当前页的前后几张，其他的会被清除。到这里，思路就有了：

  1. 跳转到第n页
  2. 拉取刷新出来的额图片路径
  3. 保存图片路径到缓存(我使用的是redis)
  4. 通过网络工具类，将缓存中的图片地址全部下载到本地本次为图片
  5. 将图片通过pdf工作转为pdf

第1步到第3步需要重复，可以使用自动工具和脚本来实现。

第4步写个控制器就可以了，最简单的java接口就行。

第5步直接网上在线服务就可以实现。

为什么需要先缓存在下载咧，这里涉及到一个效率与图片去重和过滤的问题，因为每次调整后获取的图片可能有重复的，存在redis的map中，自动就去重了；也是为了避免一边获取图片路径，一边下载中途异常退出等任务不能正常执行完毕等问题。然后脚本获取路径，后保存到自己的服务器，唯一的问题可能就是跨域的问题。结果发现还是少了几张图，这样就体会出使用缓存的好处了，可以直接通过代码验证少了那几张图，不用去检查jpg文件，少的文件个位数，最后通过手动补全了。

通过这种方式得到的图片，唯一缺陷就是带有"JD读书"字样和图片分辨率不是很高，字体好像带点毛脚。有强迫症或者追求高品质的，就使用官方阅读器吧，个人看了蛮清晰的，是文档，不是图片！！！

下面附上java通过URL获取网络数据保存到本地的代码。

public class HttpURLConnectionUtil {
// 通过get请求得到读取器响应数据的数据流
public static InputStream getInputStreamByGet(String url) {
  try {
    HttpURLConnection conn = (HttpURLConnection) new URL(url)
        .openConnection();
    conn.setReadTimeout(5000);
    conn.setConnectTimeout(5000);
    conn.setRequestMethod("GET");
    if (conn.getResponseCode() == HttpURLConnection.HTTP_OK) {
      InputStream inputStream = conn.getInputStream();
      return inputStream;
    }
  } catch (IOException e) {
    e.printStackTrace();
  }
  return null;
}
// 将服务器响应的数据流存到本地文件
public static void saveData(InputStream is, File file) {
  try (BufferedInputStream bis = new BufferedInputStream(is);
     BufferedOutputStream bos = new BufferedOutputStream(
         new FileOutputStream(file));) {
    byte[] buffer = new byte[1024];
    int len = -1;
    while ((len = bis.read(buffer)) != -1) {
      bos.write(buffer, 0, len);
      bos.flush();
    }
  } catch (IOException e) {
    e.printStackTrace();
  }
}
}

调用：

Set<String> imgNumber = (Set<String>) redisTemplate.opsForHash().keys(MAP_KEY);
imgNumber.stream().forEach(e->{
        String url = (String) redisTemplate.opsForHash().get(MAP_KEY,e);
        String fileName = e+".jpg";
        File file = new File("E:\\pdf图片\\", fileName);

        InputStream inputStream = HttpURLConnectionUtil
            .getInputStreamByGet(url);
        HttpURLConnectionUtil.saveData(inputStream, file);
});

总结

以上所述是小编给大家介绍的java通过url读取远程数据并保持到本地的实例代码，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对我们网站的支持！

赞 (0)

相关推荐

  • Java实现url加密处理的方法示例

    本文实例讲述了Java实现url加密处理的方法.分享给大家供大家参考,具体如下: package test; import java.security.Key; import java.security.SecureRandom; import javax.crypto.Cipher; import javax.crypto.KeyGenerator; import sun.misc.BASE64Decoder; import sun.misc.BASE64Encoder; public cla

  • Java 测试URL地址是否能正常连接的代码

    Java 测试URL地址是否能正常连接 public static int testWsdlConnection(String address) throws Exception { int status = 404; try { URL urlObj = new URL(address); HttpURLConnection oc = (HttpURLConnection) urlObj.openConnection(); oc.setUseCaches(false); oc.setConne

  • 详谈java编码互转(application/x-www-form-urlencoded)

    本质上来说,java.net.UrlEncoder适用于将 String 转换为 application/x-www-form-urlencoded MIME 格式的静态方法 时 ,使用 但!一般情况下,web应用中,当你的服务器,页面编码,请求时编码都已经修改为 utf-8后,依然乱码时,此时则应试着用下方所写到的方法 使用URLDecoder将所乱码的数据进行解码, 而在此处简单说一下乱码的场景和简单转换时的执行原理: 首先,form表单提示数据时,默认Content-type:为 appl

  • java中URLEncoder.encode与URLDecoder.decode处理url特殊参数的方法

    最近在使用 url 的 queryString 传递参数时,因为参数的值,被DES加密了,而加密得到的是 Base64的编码字符串 类似于: za4T8MHB/6mhmYgXB7IntyyOUL7Cl++0jv5rFxAIFVji8GDrcf+k8g== 显然 这里面含有了 特殊字符: / + = 等等,如果直接通过url 来传递该参数: url = "xxxxx?param=" + "za4T8MHB/6mhmYgXB7IntyyOUL7Cl++0jv5rFxAIFVji8

  • java.net.MalformedURLException异常的解决方法

    java.net.MalformedURLException at java.net.URL.<init>(URL.java:619) at java.net.URL.<init>(URL.java:482) at java.net.URL.<init>(URL.java:431) 代码中URL url = new URL(someUrl);这一行出现java.net.MalformedURLException异常 解决方法是,对someUrl中的参数名和参数值都URL

  • Java从数据库中读取Blob对象图片并显示的方法

    本文实例讲述了Java从数据库中读取Blob对象图片并显示的方法.分享给大家供大家参考.具体实现方法如下: 第一种方法: 大致方法就是,从数据库中读出Blob的流来,写到页面中去: 复制代码 代码如下: Connection conn = DBManager.getConnection();   String sql = "SELECT picture FROM teacher WHERE id=1";   PreparedStatement ps = null;   ResultSe

  • Java如何实现URL带请求参数(get/post)及得到get和post请求url和参数列表的方法

    具体代码如下所示: public static String sendGet(String url,String param) { String result = ""; try{ String urlName = url + "?"+param;// URL U = new URL(urlName); URLConnection connection = U.openConnection(); connection.connect(); BufferedReade

  • java遍历读取整个redis数据库实例

    redis提供了灵活的数据查询方式,最牛的就是key的搜索支持正则表达式. jedis.keys("*");表示搜索所有keyjedis.keys("abc*")表示搜索开头为abc的key数据 遍历了key就能遍历到value. 其实就是一个set 复制代码 代码如下: RedisDO rd = new RedisDO();  rd.open();  Set s = rd.jedis.keys("*");  Iterator it = s.it

  • Java截取url参数的方法

    废话少说,直奔关键代码. 具体代码如下所示: /** * 去掉url中的路径,留下请求参数部分 * @param strURL url地址 * @return url请求参数部分 * @author lzf */ private static String TruncateUrlPage(String strURL){ String strAllParam=null; String[] arrSplit=null; strURL=strURL.trim().toLowerCase(); arrS

  • java中文乱码之解决URL中文乱码问题的方法

    java中文乱码之解决URL中文乱码问题的方法

    我们主要通过两种形式提交向服务器发送请求:URL.表单.而表单形式一般都不会出现乱码问题,乱码问题主要是在URL上面.通过前面几篇博客的介绍我们知道URL向服务器发送请求编码过程实在是实在太混乱了.不同的操作系统.不同的浏览器.不同的网页字符集,将导致完全不同的编码结果.如果程序员要把每一种结果都考虑进去,是不是太恐怖了?有没有办法,能够保证客户端只用一种编码方法向服务器发出请求? 有!这里我主要提供以下几种方法 一.javascript 使用javascript编码不给浏览器插手的机会,编码之

  • Java HttpURLConnection超时和IO异常处理

    最近同步数据的时候发现了一个问题,我本身后台插入数据后给其他部门后台做同步.说简单一点其实就是调用对方提供的接口,进行HTTP请求调用.然后后面发现问题了.HTTP请求的话,有可能请求超时,中断失败,IO异常其实都有可能,如果是平时打开一个网页还好,打不开的时候,你会关掉,或者他页面给你显示信息.但是同步,不可以这样做,一旦请求失败,必须让数据正确的同步,今天才意识到这个问题的重要性. String httpUrl = "https://www.baidu.com/s?ie=UTF-8&

随机推荐