分享
 
 
 

Java中文问题详解,底层编码解剖

王朝java/jsp·作者佚名  2008-05-19
窄屏简体版  字體: |||超大  

预备知识:

1.字节和unicode

Java内核是unicode的,就连class文件也是,但是很多媒体,包括文件/流的保存方式

是使用字节流的。 因此Java要对这些字节流经行转化。char是unicode的,而byte是字节.

Java中byte/char互转的函数在sun.io的包中间有。其中ByteToCharConverter类是中调度,

可以用来告诉你,你用的Convertor。其中两个很常用的静态函数是

public static ByteToCharConverter getDefault() ;

public static ByteToCharConverter getConverter(String encoding);

如果你不指定converter,则系统会自动使用当前的Encoding,GB平台上用GBK,EN平台上用

8859_1

我们来就一个简单的例子:

"你"的gb码是:0xC4E3 ,unicode是0x4F60

你用:

--encoding="gb2312";

--byte b[]={(byte)'\u00c4',(byte)'\u00E3'};

--convertor=ByteToCharConverter.getConverter(encoding);

--char [] c=converter.convertAll(b);

--for(int i=0;i

--{

-- ***.out.println(Integer.toHexString(c[i]));

--}

--打印出来是0x4F60

--但是如果使用8859_1的编码,打印出来是

--0x00C4,0x00E3

----例1

反过来:

--encoding="gb2312";

char c[]={'\u4F60'};

convertor=ByteToCharConverter.getConverter(encoding);

--byte [] b=converter.convertAll(c);

--for(int i=0;i

--{

-- ***.out.println(Integer.toHexString(b[i]));

--}

--打印出来是:0xC4,0xE3

----例2

--如果用8859_1就是0x3F,?号,表示无法转化

--

很多中文问题就是从这两个最简单的类派生出来的。而却有很多类

不直接支持把Encoding输入,这给我们带来诸多不便。很多程序难得用encoding

了,直接用default的encoding,这就给我们移植带来了很多困难

--

2.UTF-8

--UTF-8是和Unicode一一对应的,其实现很简单

--

-- 7位的Unicode: 0 _ _ _ _ _ _ _

--11位的Unicode: 1 1 0 _ _ _ _ _ 1 0 _ _ _ _ _ _

--16位的Unicode: 1 1 1 0 _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _

--21位的Unicode: 1 1 1 1 0 _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _

--大多数情况是只使用到16位以下的Unicode:

--"你"的gb码是:0xC4E3 ,unicode是0x4F60

--我们还是用上面的例子

--

--例1:0xC4E3的二进制:

--

--

1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1

--

--

由于只有两位我们按照两位的编码来排,但是我们发现这行不通,

--

--

因为第7位不是0因此,返回"?"

--

--

--

--例2:0x4F60的二进制:

--

--

0 1 0 0 1 1 1 1 0 1 1 0 0 0 0 0

--

--

我们用UTF-8补齐,变成:

--

--

11100100 10111101 10100000

--

--

E4--BD-- A0

--

--

于是返回0xE4,0xBD,0xA0

--

--

3.String和byte[]

--String其实核心是char[],然而要把byte转化成String,必须经过编码。

--String.length()其实就是char数组的长度,如果使用不同的编码,很可

--能会错分,造成散字和乱码。

--例:

----byte [] b={(byte)'\u00c4',(byte)'\u00e3'};

----String str=new String(b,encoding);

----

----如果encoding=8859_1,会有两个字,但是encoding=gb2312只有一个字

----

--这个问题在处理分页是经常发生

4.Reader,Writer/InputStream,OutputStream

--Reader和Writer核心是char,InputStream和OutputStream核心是byte。

--但是Reader和Writer的主要目的是要把Char读/写InputStream/OutputStream

--一个reader的例子:

--文件test.txt只有一个"你"字,0xC4,0xE3--

--String encoding=;

--InputStreamReader reader=new InputStreamReader(

----new FileInputStream("text.txt"),encoding);

--char []c=new char[10];

--int length=reader.read(c);

--for(int i=0;i

----***.out.println(c[i]);

--如果encoding是gb2312,则只有一个字符,如果encoding=8859_1,则有两个字符

--------

--

--

----

2.我们要对Java的编译器有所了解:

--javac -encoding

我们常常没有用到ENCODING这个参数。其实Encoding这个参数对于跨平台的操作是很重要的。

如果没有指定Encoding,则按照系统的默认Encoding,gb平台上是gb2312,英文平台上是ISO8859_1。

--Java的编译器实际上是调用sun.tools.javac.Main的类,对文件进行编译,这个类

--

有compile函数中间有一个encoding的变量,-encoding的参数其实直接传给encoding变量。

编译器就是根据这个变量来读取java文件的,然后把用UTF-8形式编译成class文件。

一个例子:

--public void test()

--{

----String str="你";

----FileWriter write=new FileWriter("test.txt");

----write.write(str);

----write.close();

--}

----例3

--如果用gb2312编译,你会找到E4 BD A0的字段

--

--如果用8859_1编译,

--00C4 00E3的二进制:

--00000000 11000100 00000000 11100011--

--因为每个字符都大于7位,因此用11位编码:

--11000001 10000100 11000011 10100011

--C1-- 84--

C3--

A3

--你会找到C1 84 C3 A3 --

但是我们往往忽略掉这个参数,因此这样往往会有跨平台的问题:

--

例3在中文平台上编译,生成ZhClass

--

例3在英文平台上编译,输出EnClass

--1.

ZhClass在中文平台上执行OK,但是在英文平台上不行

--2.

EnClass在英文平台上执行OK,但是在中文平台上不行

原因:

--1.在中文平台上编译后,其实str在运行态的char[]是0x4F60,

----

--在中文平台上运行,FileWriter的缺省编码是gb2312,因此

--CharToByteConverter会自动用调用gb2312的converter,把str转化

--成byte输入到FileOutputStream中,于是0xC4,0xE3放进了文件。

--但是如果是在英文平台下,CharToByteConverter的缺省值是8859_1,

--FileWriter会自动调用8859_1去转化str,但是他无法解释,因此他会

--输出"?"

----

--2.

在英文平台上编译后,其实str在运行态的char[]是0x00C4 0x00E3,

----

--在中文平台上运行,中文无法识别,因此会出现??

--

在英文平台上,0x00C4--0xC4,0x00E3-0xE3,因此0xC4,0xE3被放进了

--文件

----

1.对于JSP正文的解释:

--Tomcat首先看一下你的叶面中有没有"

--地方设定response.setContentType(..);按照encoding的来读,没有他按照8859_1

--读取文件,然后用UTF-8写成.java文件,然后用sun.tools.Main去读取这个文件,

--(当然它使用UTF-8去读),然后编译成class文件

--setContentType改变的是out的属性,out变量缺省的encoding是8859_1

2.对Parameter的解释

--很不幸Parameter只有ISO8859_1的解释,这个质料可以在servlet的实现代码中找到。

3.对include的解释

格式的,但是很不幸,由于那个写"org.apache.jasper.compiler.Parser"的人

在数组JspUtil.ValidAttribute[]忘记加了一个参数:encoding,因此导致不支

持这种方式。你完全可以编译源代码,加上对encoding的支持

总结:

如果你在NT底下,最简单的方法就是欺骗java,不加任何Encoding变量:

你好

http://localhost/test/test.jsp?value=你

结果:你好你

但这种方法局限性较大,比如对上传的文章分段,这样的做法是死定的,最好的

解决方案是用这种方案:

你好

 
 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
2023年上半年GDP全球前十五强
 百态   2023-10-24
美众议院议长启动对拜登的弹劾调查
 百态   2023-09-13
上海、济南、武汉等多地出现不明坠落物
 探索   2023-09-06
印度或要将国名改为“巴拉特”
 百态   2023-09-06
男子为女友送行,买票不登机被捕
 百态   2023-08-20
手机地震预警功能怎么开?
 干货   2023-08-06
女子4年卖2套房花700多万做美容:不但没变美脸,面部还出现变形
 百态   2023-08-04
住户一楼被水淹 还冲来8头猪
 百态   2023-07-31
女子体内爬出大量瓜子状活虫
 百态   2023-07-25
地球连续35年收到神秘规律性信号,网友:不要回答!
 探索   2023-07-21
全球镓价格本周大涨27%
 探索   2023-07-09
钱都流向了那些不缺钱的人,苦都留给了能吃苦的人
 探索   2023-07-02
倩女手游刀客魅者强控制(强混乱强眩晕强睡眠)和对应控制抗性的关系
 百态   2020-08-20
美国5月9日最新疫情:美国确诊人数突破131万
 百态   2020-05-09
荷兰政府宣布将集体辞职
 干货   2020-04-30
倩女幽魂手游师徒任务情义春秋猜成语答案逍遥观:鹏程万里
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案神机营:射石饮羽
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案昆仑山:拔刀相助
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案天工阁:鬼斧神工
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案丝路古道:单枪匹马
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案镇郊荒野:与虎谋皮
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案镇郊荒野:李代桃僵
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案镇郊荒野:指鹿为马
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案金陵:小鸟依人
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案金陵:千金买邻
 干货   2019-11-12
 
推荐阅读
 
 
 
>>返回首頁<<
 
靜靜地坐在廢墟上,四周的荒凉一望無際,忽然覺得,淒涼也很美
© 2005- 王朝網路 版權所有