让gzip压缩速度加快的解决方案：使用支持多核CPU多线程并发压缩的pigz，gzippigz


这篇文章主要介绍了让gzip压缩速度加快的解决方案：使用支持多核CPU多线程并发压缩的pigz,需要的朋友可以参考下

pig是个啥东东？
官网：http://zlib.net/pigz
一句话简介：

代码如下:

A parallel implementation of gzip for modernmulti-processor, multi-core machines。

简单的说，就是支持并行的gzip。废话不多说，开始测试。

pig默认用当前逻辑cpu个数来并发压缩，无法检测个数的话，则并发8个线程。

一、测试压缩包文件1

代码如下:

压缩前
-rw-r--r-- 1 root root 2474772480 Dec 3 19:54 dbs.tar</p> <p>1、gzip测试
压缩耗时，CPU最高：101.6%
real 2m18.042s
user 2m10.204s
sys 0m6.876s</p> <p>解压缩耗时，CPU最高：101.6%
real 0m26.756s
user 0m20.175s
sys 0m6.580s</p> <p>压缩后
-rw-r--r-- 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz</p> <p>2、pigz测试
并发8线程(默认)：
压缩耗时，CPU最高：832%
real 0m21.710s
user 2m31.229s
sys 0m9.101s</p> <p>解压缩耗时，CPU最高：199%
real 0m13.239s
user 0m11.791s
sys 0m12.426s</p> <p>并发4线程：
压缩耗时，CPU最高：427.6%
real 0m38.299s
user 2m30.701s
sys 0m8.369s</p> <p>解压缩耗时，CPU最高：202%
real 0m13.294s
user 0m12.154s
sys 0m11.862s</p> <p>压缩后
-rw-r--r-- 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz</p> <p>二、测试压缩包文件2
压缩前
-rw-r--r-- 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar</p> <p>1、gzip测试
压缩耗时，CPU最高：101%
real 6m20.524s
user 6m2.466s
sys 0m7.410s</p> <p>解压缩耗时，CPU最高： 101%
real 0m58.893s
user 0m46.258s
sys 0m11.944s</p> <p>压缩后
-rw-r--r-- 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz</p> <p>2、pigz测试
并发8线程(默认)：
压缩耗时，CPU最高： 799%
real 1m11.908s
user 6m36.717s
sys 0m9.860s</p> <p>解压缩耗时，CPU最高：179%
real 0m33.188s
user 0m38.069s
sys 0m16.728s</p> <p>并发4线程：
压缩耗时，CPU最高： 418%
real 1m41.547s
user 6m36.782s
sys 0m9.806s</p> <p>解压缩耗时，CPU最高： 179%
real 0m33.120s
user 0m37.500s
sys 0m16.956s</p> <p>压缩后
-rw-r--r-- 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

结论：

1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍，CPU消耗则是gzip的8倍，压缩比则相当；
2、并发8线程对比4线程提升：41.2%，16线程对比8线程提升：27.9%，32线程对比16线程提升：3%；
3、在对压缩效率要求较高、但对短时间内CPU消耗较高不受影响的场景，使用pigz非常合适。


多核、多cpu、多进程、多线程的关系

这个问题太专业,但是我据我的感觉,这个跟程序有关,有的程序支持多核,有的则不支持,所以说把程序就是任务,那么任务里又有很多小任务组成,如果程序支持多核, 那个可以程序可以将小任务分配给不同的核或线程去处理.
所以会有人说很多游戏特别是大型单机游戏,运行得好与不好,和CPU的频率很有关系,双核多核看不出有明显的区别.是因为这些大型单机游戏不支持多核多进程.
但实际使用中操作系统也是程序,而且是个大程序,所以不可能有完全的单进程状态.
多核在开多进程的时候,会明显比单核 的CPU强很多.这个网游的多开是最明显的
 

问单核，多核CPU与多线程是什关系？单核CPU是怎支持多线程的？

单核就是一颗物理核心，目前主流的已经没有单核的了，双核多核就是两可以上物理核心。多线程就是在一个强大的物理核心里面模拟出两个核心，可以达到2个核心的效果。一般是双核4线程，四核8线程。这样子。