如何解决远程机房上传war包文件慢问题?

原创
2018/05/22 09:03
阅读数 1.4K

上传文件到远程机房速度一般比较慢,例如100KB/s。使用putty工具上传war包(40M)到远程服务器需要几分钟。

 

为了提高效率,减少上传文件时间,我们可以尽量减少要传输的文件内容。

war包是zip压缩文件,同一个应用,不同版本的war包,会包含很多相同的压缩文件。上传文件时,如果不需要上传服务器端已经存在的压缩文件,那就可以大大减少要传输的文件内容。

 

实现方案

1. 客户端在上传文件前,解析文件,计算压缩文件中每个Entry内容的MD5值。

2. 客户端将Entry内容的MD5值和长度发送到服务器端,检查服务器是否已存在对应的Entry。

3. 服务器根据Entry内容的MD5值和文件长度进行判断,检查服务器端存在哪些Entry,并返回给客户端。

4. 客户端将服务器端已存在的Entry从文件中删除,生成新文件(压缩文件内容)。

5. 客户端将新文件,和已去掉的Entry列表发送给服务器端。

6. 服务器端将去掉的Entry还原到上传的文件中(还原文件内容)。

7. 服务器端将文件解压缩,将文件包含的Entry建立缓存。

 

运行效果

  需要传输的文件大小 上传耗时
优化前 14330 KB 140 秒
优化后       90 KB     5 秒

 

代码仓库

https://gitee.com/jscode/app-pool-server

https://gitee.com/jscode/app-pool-client

 

注意:

使用java.util.zip.ZipFile先解压war包,再将解压后目录压缩成zip文件,两个文件的MD5值不一样。参见

https://my.oschina.net/u/1263909/blog/1811881

 为了保证上传文件后MD5值不变,采取了直接修改war包的方式。

 

展开阅读全文
打赏
1
5 收藏
分享
加载中

引用来自“很拽De土豆”的评论

一般不是使用rsync做么,你这么做如果之前服务器中存在很多文件在客户端已经被删除了,服务端会留存有越来越多的垃圾文件。可以再优化一下。做成类似rsync那种的加个配置,比如哪些目录要做同步,哪些要排除,删除服务器文件最好做个备份。

引用来自“qquunn”的评论

rsync确实强大。这个方案是有垃圾文件问题,适合企业内部的war包管理系统。目录同步场景这种方案没有优势。
每种东西出现都是有一定需求,至少你学到了怎么增量同步文件过去。😄学习的过程总是愉快的~
2018/05/23 10:04
回复
举报
qquunn博主

引用来自“很拽De土豆”的评论

一般不是使用rsync做么,你这么做如果之前服务器中存在很多文件在客户端已经被删除了,服务端会留存有越来越多的垃圾文件。可以再优化一下。做成类似rsync那种的加个配置,比如哪些目录要做同步,哪些要排除,删除服务器文件最好做个备份。
rsync确实强大。这个方案是有垃圾文件问题,适合企业内部的war包管理系统。目录同步场景这种方案没有优势。
2018/05/23 08:48
回复
举报
正确的做法可以参考docker的标准。建立git,自动化同步git代码,然后加载自定义配置文件,启动运行
2018/05/22 15:52
回复
举报
一般不是使用rsync做么,你这么做如果之前服务器中存在很多文件在客户端已经被删除了,服务端会留存有越来越多的垃圾文件。可以再优化一下。做成类似rsync那种的加个配置,比如哪些目录要做同步,哪些要排除,删除服务器文件最好做个备份。
2018/05/22 11:53
回复
举报
更多评论
打赏
4 评论
5 收藏
1
分享
返回顶部
顶部