一直想把自己的 Linux box 从 zh_CN.GB2312 的 locale 设置迁移到 zh_CN.UTF-8 上去,无奈之前的大量的实验中用到的文件都是 GB2312 编码的,所以,这个迁移直到最近因为要在一个工具上添加 UTF-8 编码的中文支持才得以完成。以下是我在这个迁移的过程碰到的一些和中文相关的问题以及我个人的解决方法,列此一来备忘,二来希望能给有相同需求的朋友做个参考。
提醒:以下提及的工具中的大部分会对你的原始文件进行”写”操作,也就是说,转换出来的结果可能会产生错误或者偏差。如果你不是一个有经验的 Linux 用户,请在做这些操作的时候,注意先做好备份。并强烈建议你在使用某一个工具之 前,先仔细阅读该工具的 manual。(”man program-name”)
0、支持 Unicode 的 Terminal 工具
我选择 Terminal 工具的原则是:轻量(占用系统资源小)且强大。基于之前我的一个简单评测,我现在用的 Terminal 工具是 rxvt-unicode 加 screen。xterm 对 unicode 的支持可能是最差的,除此之外,mlterm、GNOME-terminal 等工具虽然都能很好的支持 unicode,不过 mlterm 的 multi tab 功能在我更习惯于使用”screen”来做 multi tab 这点上显得有点多余;而 gnome-terminal 则太过于耗资源。rxvt-unicode 则刚好合我的胃口,尤其是它的 server+client 的模式可以在开启多个 Terminal 的时候节省大量的系统资源。:)
1、文件内容的编码检测及转换
文件内容的编码转换可以结合 2 个工具来完成。
a.如果你不知道你所要转换的文件的编码格式,你可以通过 enca 这个工具来检测编码。举例如下:
joseph@PeT43: ~ > enca foo.txt
Universal transformation format 8 bits; UTF-8
b.如果你事先已经知道了文件的编码或者通过检测知道了文件的编码,可以通过 GNU 的 iconv 来进行编码转换。以下是一个例子用来把文件的编码从 GB2312 转换成 UTF-8:
joseph@PeT43: ~ > iconv -f gb2312 -t utf-8 foo.txt > foot.txt.utf-8
提 醒:iconv 的输出默认是直接输出到标准输出(standard output),通常就是你的屏幕上。所以,你需要使用”>”的重定向符号来把输出转存到一个”新”的文件里面去。切不可在”>”后面使用你 的原始的输入文件名作为输出文件名,因为”>”操作,会首先将其后面的文件清空,然后再运行 “>”前面的操作。也就是说,除了原始的输入文件被清空之外,你什么也得不到。这是很多 Linux 新用户经常会犯的一个”致命”错误。特此提醒。
2、文件名的编码转换
上述的 2 个工具只能对文件的内容进行编码的检测和转换,如果需要对文件名进行编码转换,则需要 convmv 来完成。convmv 的用法大致和 iconv 相似,以下是一个例子用来将”music”这个目录下的所有以 GB2312 编码的文件名的文件和子目录下的文件,转换成以 UTF-8 编码的文件名:
joseph@PeT43: ~ > convmv -f gb2312 -t utf-8 -notest -r music
请 注意这里的”-notest”选项:如果不提供这个选项,该命令只会做一个转换的测试,并不会真正的转换。因为这个命令有一定的”破坏性”,所以,当你用 这个程序的时候,最好是先不用”-notest”这个选项来做一遍测试,根据程序运行输出的信息来确定是否有个别的文件需要手动进行调整。
3、MP3 的 ID3 tag 编码转换
一个比较扰人的问题是,MP3 里面的 ID3(v1/v2) Tag 信息不能象普通的文本文件那样来用 iconv 进行编码转换。好在这个问题 Feng Zhou 也碰到了,他写了一个 java 的程序 ID3iconv 来处理这些 MP3 文件的 ID tag 编码转换。
略 有不足的是,这个程序没有提供一个类似于上面提及的 convmv 的”-r”(recursive)的选项可以来对某一个目录下的所有文件和子目录下的文件进行递归的处理。当然,我们可以用万能的“find”命令来弥补 这个缺陷,以下是一个例子,用来对”music” 目录里面的所有 mp3 文件(含子目录下的文件)进行 ID3 tag 的转换:
joseph@PeT43: ~ > find . -name '*.mp3' -exec java -jar /usr/local/bin/id3iconv-0.2.1.jar -e gb2312 '{}' \;
这 个命令利用到了”find”命令的”-exec”选项来对所有找到的文件进行指定的操作,这里“指定的操作”就是对该文件调用 id3iconv 这个 java 的程序来进行 ID3 tag 的编码格式转换。详情请参考 find 的 manual (man find)。