linux处理中文字符集工具集粹与详解


 
Linux对中文的支持不是很好，也不像Windows样，会对文件名，文件内容做字符集的自动转换。
 
例如，将Windows下的文件复制到Linux下，会出现一堆的乱码，这时，就要用到linux的一些字符集转换工具来处理。
 
1. 批量文件名字符集转换工具 -- convmv
下载链接:
http://download.chinaunix.net/download/0002000/1760.shtml
convmv是一个更改文件名编码方式的工具，
它甚而可以进行目录下文件名的批量转换。
 
例如,
 
将/home目录下原来文件名是gbk编码方式的全部改为utf-8格式的，
使用命令如下:
$./convmv -f gbk -t utf8 -r –notest /home
-f 文件名原编码方式;
-t 文件名要更改为的编码方式;
-r 这个目录下面的所有文件;
-notest 表示马上执行，而不是仅仅测试而已。
 
更多的功能详解可见它的帮助:
USAGE: convmv [options] FILE(S)
-f enc encoding *from* which should be converted
-t enc encoding *to* which should be converted
-r recursively go through directories
-i interactive mode (ask for each action)
--nfc target files will be normalization form C for UTF-8 (Linux etc.)
--nfd target files will be normalization form D for UTF-8 (OS X etc.)
--qfrom be quiet about the "from" of a rename (if it screws up your terminal e.g.)
--qto be quiet about the "to" of a rename (if it screws up your terminal e.g.)
--exec c execute command instead of rename (use #1 and #2 and see man page)
--list list all available encodings
--lowmem keep memory footprint low (see man page)
--nosmart ignore if files already seem to be UTF-8 and convert if posible
--notest actually do rename the files
--replace will replace files if they are equal
--unescape convert%20ugly%20escape%20sequences
--upper turn to upper case
--lower turn to lower case
--help print this help
 
2.  文件内容字符集转换工具 -- iconv
 
它通常是Linux系统自带的转换工具。
 
$iconv -f gbk -t utf8 -o outfile infile
-f 文件原来的编码方式;
-t 输出文件的编码方式; 
-o 输出文件名，这利用outfile表示，
 
最后跟上要更改编码方式的文件名infile 
 
这个工具有两个缺陷:
 
一个是必须先知道文件原来的编码方式, 否则将出错。
 
    这个可以用命令 "file filename" 得到。
 
二个是如果转换出错，将不会返回。
 
iconv的用法：
 
iconv命令用于转换指定文件的编码,默认输出到标准输出设备,亦可指定输出文件。
用法：iconv [选项...] [文件...]
 
有如下选项可用：
输入/输出格式规范：
-f, --from-code=名称 原始文本编码
-t, --to-code=名称 输出编码
 
信息：
-l, --list 列举所有已知的字符集
 
输出控制：
-c 从输出中忽略无效的字符
-o, --output=FILE 输出文件
-s, --silent 关闭警告
--verbose 打印进度信息
--help 给出该系统求助列表
--usage 给出简要的用法信息
-V, --version 打印程序版本号
 
3. 强大的文件内容字符集转换工具 -- enca
下载地址:
$wget http://dl.cihar.com/enca/enca-1.13.tar.gz
 
在应用上enca比iconv更完善，在中文支持上enca比iconv支持得好，
iconv当遇到不支持的中文时会跳过或者报错cannot iconving。
 
所以推荐用enca。
 
编译与安装:
$tar -jxvf enca-1.13
$cd enca-1.13
$./configure
$make
$make check
$make install
 
编译时的出错解决:
 
如果编译时遇到出错提示:
...
/usr/bin/ld: /usr/lib/gcc/x86_64-redhat-linux/4.1.2/../../../../lib64/libm.a(w_exp.o):
relocation R_X86_64_32 against `a local symbol' can not be used when making a shared object;
recompile with -fPIC
/usr/lib/gcc/x86_64-redhat-linux/4.1.2/../../../../lib64/libm.a: could not read symbols:
Bad value
collect2: ld returned 1 exit status
make[2]: *** [libenca.la] Error 1
...
 
则需要更改它的配置选项为:
$./configure --enable-shared=no
原因详解:
http://www.gentoo.org/proj/en/base/amd64/howtos/index.xml?part=1&chap=3
使用示例:
enca -L zh_CN test.sql                      // 检查文件编码
enca -L zh_CN -x UTF-8 test.sql             // 将文件编码转换为UTF-8编码　　　
enca -L zh_CN -x UTF-8 <test.sql> test2.sql // 转换并另存为test2.sql

相关内容